오픈AI 로봇 책임자 사퇴… 국방부 계약과 감시 우려, 업계 큰 파장 예상

오픈AI 의 로봇 부장, 국방부 계약 문제로 사퇴 선언과 함께 업계에 큰 반향을 일으켰습니다.

최근 생성형 AI 를 선도해온 오픈AI 가 미국 국방部和 체결한 AI 모델 도입 계약 문제로 인해 큰 논란에 휩싸였습니다. 이 사건과 관련된 주요 인물은 바로 오픈AI 의 로봇 팀을 이끌던 책임자인 케이트린 캘리노스키입니다. 그녀는 이번 계약 체결 이후 회사의 내부 윤리 및 보안 기준에 대한 심각한 우려를 표명하기 위해 사표를 제출했습니다. 이는 단순한 직무 수행 능력의 문제나 회사의 방향성에 대한 개인적인 불만으로 시작 된 것이 아님음을 분명히 했습니다. 그녀는 공개적인 성명을 통해 사퇴의 결정이 개인적인 갈등이 아니라 회사의 거버넌스 (지배 구조) 와 관련된 근본적인 우려에서 비롯되었음을 강조했습니다.

캘리노스키는 자신의 사보에서 다음과 같은 경고를 남겼습니다. 사법적 감독 없이 미국 국민의 감시를 실시하는 것, 그리고 인간 승인이 없이 치명적인 자율 무기 시스템을 운영하는 것은 더 많은 고려를 받았어야 할 적선입니다. 이 말은 단순히 기술적인 문제만 언급한 것이 아니라, 기술 발전이 인간의 기본권과 어떻게 조화를 이룰지에 대한 심각한 질문을 던진 것입니다. AI 가 국방이나 치안 유지에 활용된다면 편리할 수는 있지만, 동시에 국민을 감시하거나 자동화된 방식으로 살상을 결정할 수 있는 권력이 AI 에 의해 부여된다면 그 위험성은 매우 큽니다. 이러한 이유로 그녀는 계약 체결 과정이 너무도 급작스럽고, 이에 따라 적절한 안전장치나 규제가 마련되지 않은 상태로 계약이 진행된 점에 대해 우려를 표명했습니다.

이 문제는 오픈AI 가 처한 상황을 넘어, 현재 글로벌 AI 업계 전체에서 뜨거운 쟁점이 되고 있는 기술 기업과 국가 기관 간의 협력 관계를 보여줍니다. 동시에 경쟁사인 안스로픽 (Anthropic) 이 최근 미국 국방부와의 광범위한 군사 이용을 승인하지 않겠다고 밝혔을 때, 그 선택에 대해 정부 관계자들은 강경한 반응을 보였습니다. 결국 안스로픽 이 기술에 무제한적인 접근을 거부하자 미국 정부는 이를 공급망 리스크로 지정하는 등 강한 압력을 행사했습니다. 반대로 오픈AI 는 급하게 계약을 체결했다는 점이 문제였습니다. 보통 국가 안보 인프라 관련 계약은 긴 시간 동안 꼼꼼한 협상과 감독을 거쳐야 하지만, 오픈AI 의 경우 계약 발표까지 수 시간밖에 걸리지 않았습니다. 이러한 속도 때문에 회사의 성실성과 안전성에 대한 의문을 제기하고 있습니다. 캘리노스키의 사퇴는 이러한 의문에 직접적인 답을 제공하며, 오픈AI 의 계약이 단순 기술 수용이 아니라 거버넌스가 뒷받침 되어야 함을 일깨웠습니다.

또한 오픈AI CEO 로서 업계 전반의 혼란을 잠재우려 했던 샘 알트맨 의 답변도 주목할 만합니다. 그는 이번 계약이 수정되어 미국 시민들의 국내 감시 목적으로 모델이 활용되지 않는다고 밝혔으며, 이는 오픈AI 가 완전한 자동 치명 무기 개발에도 반대한다는 입장을 표명한 것과 맥락을 이룹니다. 하지만 단순 이런 말을 한 것만으로 업계의 신뢰가 확보되기에는 부족합니다. 정부는 AI 는 미래 권력 구조를 결정할 수 있는 전략적 능력으로 인식하며, 기술 기업들이 군사와 어떻게 협력해야 할지도 고민해야 합니다. 만약 기업이 안다고 하면, 일반 고객들이 기업과 군대 기관이 협력한다고 하면 반응할 것인지에 대한 우려도 가중될 수 있습니다. 이러한 불확실성이 기술 기업의 의사결정에 큰 영향을 미칠 수 있습니다.

캘리노스키 의 사퇴는 오픈AI 의 국방 협력을 완전히 무산시키지는 않을 것으로 보이지만, 적어도 더 많은 질문을 유도하고 진행 속도를 더디게 할 수 있습니다. 일부 기업들은 민주적 감시와 첨단 기술의 책임 있는 사용을 보장하기 위해 정부 기관과의 협력이 필수적일 것이라고 판단할 수 있습니다. 하지만 동시에 이 사안은 산업계에 AI 와 관련한 국가 안보 사용 결정에 대해 신중한 견명이 필요함을 상기시켜 주는 사건이기도 합니다. 결국 우리는 기술 이 발전함에 따라 법과 윤리가 따라잡지 못하면 어떤 재앙이 닥칠 수 있는지, 또 민주주의 시스템 이 어떻게 기술적 발전을 규제하고 이용할 것인지에 대한 깊은 성찰 이 필요합니다. 이번 오픈AI 의 사퇴 사건 은 단순한 뉴스가 아니라, AI 와 국가 안보, 그리고 개인의 프라이버시 사이 에서 우리가 맞닥뜨려야 할 새로운 윤리적 기준 이 어떻게 설정될 것인지에 대한 중요한 경고이자 기회였습니다.

이 글은 Latest from TechRadar의 기사를 바탕으로 작성되었습니다.