X, 구크 사진 수정 막는 기능의 한계와 진실

안녕하세요, 독자 여러분! IT 전문 블로거가 되어 여러분과 함께하는 시간입니다. 최근 에일론 머스크가 소유한 기술 플랫폼인 X(구 트위터) 에서 큰 화제가 된 문제가 있습니다. 바로 AI 챗봇 ‘Gro k’를 이용한 사진 편집 및 심층위조 문제입니다. X 는 이를 막기 위해 새로운 기능을 도입했는지라 많은 관심을 받았습니다. 하지만 그 기능이 얼마나 효과적인지, 그리고 숨은 진실을 함께 살펴보는 포스팅을 준비했습니다. 먼저 X 가 도입했다는 이 새로운 기능의 배경에 대해 설명해 드릴게요. 최근 AI 를 통한 사진 조작이 심각한 사회적 문제가 되면서, 사용자들의 사진이 AI 로 인한 변조 없이 안전한지 우려가 많았죠. X 는 이에 대응하여 이미지 업로드 설정 패널에 ‘Grok 수정 차단’이라는 체크박스를 추가했습니다. 이를 활성화하면 사용자가 올린 이미지가 @Gro k 태그로 편집 요청을 받을 때 차단되도록 설정되는 거죠.

하지만 여기서 중요한 것은, 이 기능이 실제로 얼마나 완벽하게 작동하는지에 대한 검증 결과입니다. 미국의 신뢰할 수 있는 기술 미디어인 더버지가 이를 테스트 해 보고, 결과물은 꽤나 실망스러웠습니다. 더버지가 보도한 내용을 종합해 보면, 이 체크박스는 X 의 내부에서 @Gro k 를 태그하는 행위만 막을 뿐이죠. 예를 들어, 해당 이미지가 Gro k 앱에서 직접 열려 편집이 가능하면 이 체크박스는 아무런 영향도 미치지 않는다는 사실이 확인되었습니다. 또한 유료 구독자든 무료 사용자든 간에, 이미지를 Gro k 앱에 직접 저장하고 리업로드하는 과정에서 차단 설정이 사라진다는 점도 발견되었습니다.

더욱 심각한 문제는 이 기능이 공식적으로 발표되거나 정식 버전으로 완전히 적용되기 전이라는 점입니다. 테스트 결과, 유료 구독자가 아니더라도 직접 Gro k 앱 인터페이스를 통해 이미지를 열면 편집이 가능했습니다. 또한 이미 리업로드를 하면 기존의 차단 설정이 사라져 다시 편집이 가능해졌습니다. 이는 단순히 설정을 켜고 끄는 것만으로 AI 보안이 완전히 해결된다는 의도를 가진 것 같으나, 현실적으로는 여러 우회 경로가 존재함을 보여줍니다. 또한 X 의 정책이 아직 완전하지 않아 일부만 차단되는 수준이죠. regulators(감독관) 들의 비판을 받은 과거 사례도 이와 관련이 있습니다.

결론적으로, 이 기능은 부분적인 차단에 그쳤고, 완전한 방어벽을 세우기는 어렵다고 볼 수 있습니다. AI 나 Deepfake 문제가 해결되기 위해서는 기술적 우회뿐만 아니라 플랫폼 전체의 정책 변화와 법적 기준 강화가 동반되어야 합니다. X 나 다른 기술 기업들은 이러한 보안 우려에 대해 진지하게 고민할 필요가 있으며, 사용자들과의 소통을 통해 더 투명한 정책 마련을 기대해 봅니다. 오늘 포스팅이 독자들에게 도움이 되기를 바랍니다. IT 세상에서 안전하고 투명하게 기술이 발전하기를 응원합니다.

이 글은 The Verge의 기사를 바탕으로 작성되었습니다.