OpenAI, Pentagon 급조 계약 과 신뢰성 위기는

최근 미국의 인공지능 기업 오픈아이 (OpenAI) 와 미국 국방부 간에 체결된 계약 문제가 논란으로 이어지고 있습니다. 이 계약은 오픈아이의 생성형 AI 모델이 미국의 군사 작전, 특히 생사를 오가는 상황에서도 활용될 수 있다는 내용으로, 민감하고 중대한 주제를 담고 있습니다. 하지만 이 초기 계약 과정이 매우 급하게 이루어졌다는 사실이 드러나면서, ‘급조 (Rush Job)’ 비판을 받았습니다. 오픈아이 의 CEO 인 샘 알트맨 (Sam Altman) 도 자신의 X 계정 에서 이 계약 발표를 서둘러서 후회했음을 진심으로 사과했다며, 당시 상황의 복잡성을 인정했습니다.

알트맨은 “우리가 금요일에 이 일을 마무리해야 한다는 생각에 급하게 했지만, 실제로는 매우 복잡했음”이라고 밝혔으며, 이후 계약 내용 변경을 통해 미국 시민에 대한 감시 목적의 모델 사용이 금지됨을 설명했습니다. 그는 또한 “우리는 사안을 완화하려고 노력했지만, 기회가 보인다는 인상을 주어 서투르게 보일 수 있었다”며 고함을 털어냈습니다. 이 같은 진수성찬은 오픈아이 의 기업 평판뿐만 아니라, 일반 사용자들에게 큰 충격을 안겼습니다. 왜냐하면 오픈아이 와 같은 AI 기업은 국방부 같은 강력한 기관이 요구하는 기술을 사용할 경우, 사용자들의 개인 정보가 어떻게 처리되는지 투명해져야 하기 때문입니다.

또한 이번 계약 문제 뒤에는 앤트로픽 (Anthropic) 이라는 경쟁 기업과의 마찰도 숨어 있었습니다. 앤트로픽 은 국방부가 요구하는 ‘거의 무제한 기술 사용’ 요구에 대해 긴밀한 논쟁을 벌인 끝에 제약 사항을 유지했습니다. 당시 국방 장관인 피트 헤스필드 는 앤트로픽 을 공급망 리스크로 언급하기도 했으나, 오픈아이 의 급한 태도는 더 직접적인 문제를 초래했습니다. 국방부 와 민간 AI 기업 간의 경계가 무너질 때, 이는 사용자의 안전을 위협할 수 있는 중대한 리스크로 남게 됩니다.

여기서 가장 중요한 것은 단순한 기업 간 비즈니스 문제가 아니라, 우리 각자가 일상생활에서 사용하는 AI 서비스에 대한 신뢰의 문제입니다. 우리는 챗지피티 (ChatGPT) 나 다른 AI 모델에게 자신의 이름, 주소, 직장, 가족 구성원 정보, 심지어 금융 정보까지 털어놓습니다. 우리는 이 서비스들이 우리의 정보를 안전하게 보호해 주려 한다고 믿고 있는 셈입니다. 하지만 오픈아이 의 이번 일은 이러한 믿음에 균열이 가기 시작함을 보여줍니다. 기업이 빠르게 성장하고 새로운 시장을 개척하는 과정에서 때로 규제를 무시하거나, 윤리적 기준을 낮게 설정하는 일이 발생할 수 있으며, 이는 사용자에게 심각한 리스크로 돌아올 수 있습니다.

특히 이번 계약에서 드러난 바와 같이, 국방부가 AI 기술을 요구할 때, 그 기술이 어떻게 다른 목적 (예: 민간 감시, 광고 타겟팅 등) 으로 악용될 위험성을 사용자가 인지하지 못하는 경우도 많습니다. 사용자들이 자신의 데이터가 어디로 흐르는지, 어떤 보안 조치가 취해지고 있는지 명확히 이해하지 못한 채 서비스를 이용할 때는, 오픈아이 와 같은 대형 기업의 실수로 인해 큰 손실이 발생할 수 있습니다. 따라서 우리는 AI 기술을 사용할 때마다 단순히 편리함을 위한 선택이 아닌, 서비스 제공자의 투명성과 데이터 처리 방식을 냉정하게 평가해야 합니다. 특히 개인 정보가 얼마나 활용되고, 누구와 공유되는지에 대한 명확한 정보를 얻는 것이 중요하며, 이는 사용자의 권리를 지키는 가장 기본적인 방법입니다.

결론적으로 오픈아이 의 이번 사례는 AI 산업 전체가 직면한 고립적인 윤리적 문제를 보여줍니다. 기술이 발전한다는 것은 곧 새로운 안전 문제와 맞물리거나, 윤리적 딜레마를 초래한다는 의미입니다. 국방부 처럼 권위가 있는 기관의 요구를 받지만, 이를 준수하지 않을 때 어떤 결과가 발생하는지도 고려해야 합니다. 앞으로 우리는 AI 서비스를 선택할 때, 그 회사의 투명성과 프라이버시 보호 수준을 꼼꼼히 살펴봐야 할 것입니다. 기술의 발전 속도가 너무 빠르게 진행되다 보니, 안전 장치가 이를 따라가지 못하는 경우가 많으므로, 우리는 더 철저한 주의가 필요합니다. 결국 신뢰는 기술의 발전보다 더 중요한 가치이며, 우리는 그 가치를 지키기 위해 노력해야 하며, 이는 사용자와 기업을 모두 위한 장기적인 관점에서의 접근이 필요합니다.

앞으로 AI 를 이용하면서 사용자는 자신의 데이터가 어디로 가는지 지속적으로 확인해야 하며, 서비스 이용 약관에 대해 충분히 이해해야 합니다. 특히 민감한 분야에서는 어떤 보안 조치가 있는지 냉정하게 파악하는 것이 중요합니다. 이 글이 독자분들이 AI 기술을 올바르게 이해하고 활용하는 데 도움이 되기를 바랍니다. 또한 향후 이러한 사례들이 어떻게 규제나 법적 문제로 연계될지 주목해야 하며, 정책적인 관점에서도 AI 의 사회적 영향력을 고려하여 발전 방향을 고민해야 할 것입니다. 기술은 사람을 돕는 도구이므로, 그 도구를 사용하는 방법과 책임은 결국 사용자와 개발자에게 달려 있습니다.

이 글은 PCWorld의 기사를 바탕으로 작성되었습니다.