그록 스캔들 이후 오픈아이와 구글의 AI 안전 강화 조치 총정리

인공지능 기술의 발전 속도는 놀라울 정도로 빠르지만, 그 그림자 또한 우리가 생각보다 깊고 무서울 수 있음을 최근 사건에서 잘 알 수 있습니다. 인공지능의 양날의 sword 는 이제 단순한 도구를 넘어 사회적으로 큰 영향을 미치기까지 했지요. 특히 AI 가 이미지를 생성하거나 텍스트를 요약하는 과정에서 발생할 수 있는 악용 사례는 우리 모두에게 큰 경종을 울렸습니다.

최근 공개된 연구 보고서에 따르면, 일론 머스크와 관련된 xAI 에서 개발한 그록이라는 AI 도구는 특정 기간 동안 엄청난 규모의 성적이미지를 무차별적으로 생성한 것으로 나타났습니다. 더구나 이 중 일부는 어린이의 모습이 포함된 것으로 밝혀져 관련 단체인 디지털 혐오를 견제 센터 (CCC) 가 발표한 데이터를 보면,短短的에 300 만 장 이상의 이미지와 약 2 만 3 천장이 어린이 관련 이미지가 포함되었을 정도로 심각한 양상을 보였습니다.

이러한 스캔들이 발생한 직후, 경쟁사들은 바로 안전 조치 강화에 나섰다. 과거에도 사생활 침해 이미지를 만들어 공유하는 행위, 이른바 복수의 포르노나 비합법적 콘텐츠는 존재했지만 이번에는 AI 를 통해 그 과정이 훨씬 더 빠르고 쉬워질 위험이 있다는 점이 큰 우려였다.

구글은 검색 엔진을 통한 이미지 관리 정책을 강화했습니다. 기존에 명시된 이미지가 삭제 요청하기 위해서는 복잡한 절차가 필요했으나, 이제 사용자가 이미지를 클릭해 신고 버튼을 누르면 ‘성적 이미지를 보여줍니다’는 사유로 쉽게 보고할 수 있도록 개선되었습니다. 또한 여러 이미지를 한 번에 선택해서 신고하는 기능까지 추가해 피해자들에게 더 많은 보호를 제공하겠다는 의지를 드러냈습니다.

한편 오픈AI 는 그록의 사례에서 도출된 교훈을 빠르게 반영했습니다. 최근 시그니처 연구소인 마인드가드 (Mindgard) 에서 발견한 취약점을 신속하게 수리했습니다. 이들은 사용자가 특수한 프롬프트를 통해 AI 의 안전 장치를 우회해 사생활侵犯了게 만드는 공격 방식을 막기 위해 노력했습니다. 이는 이른바 ‘적대적 프롬프팅’이라고 불리는 악성 테스트 전략입니다.

오픈AI 관계자는 발견된 해킹 시도나 취약점 보고는 환영하며, 시스템 수정을 빠르게 진행했다고 밝혔습니다. 사이버 보안 전문가들은 항상 소프트웨어의 안전성 장치를 점검해야 한다고 말합니다. 마치 벽돌집처럼 틈이 생기면 지속적으로 수리를 해야 하는 것과 같습니다.

또한 구글에서도 AI 가 악용되도록 하려면 사용 금지 정책 (Generative AI prohibited use policy) 을 명확히 했습니다. 예를 들어 불법이거나 피해를 끼친 콘텐츠 생성을 금한다고 명시하고 있습니다. 그러나 법규만으로는 완벽하지 않으므로 사용자들의 자율적 주의와 지속적인 모니터링이 필수적입니다.

이러한 조치들은 단순한 기술적 수리 이상으로, AI 가 어떻게 사회에 통합되고 있는지에 대한 철학적 성찰까지 요구받습니다. 2025 년 도입된 ‘이미지 제거 법’ 등 관련 법률도 있지만 아직 한계가 있기 때문에 비영리 단체들이 더 나은 규칙 마련을 위해 목소리를 내고 있습니다.

결국 우리는 기술이 아무리 발전해도 인간의 감시와 윤리적인 판단 없이는 완전히 안전한 세상은 오기 어렵다는 것을 다시 한번 배웠습니다. 개발자들이 항상 경계력을 유지해야 하지만, 사용자들도 AI 를 이용할 때 자신의 개인정보 보호 및 안전에 대한 주의를 기울여야 합니다.

이 글은 CNET의 기사를 바탕으로 작성되었습니다.