인스타그램의 아담 모세리, 원하지 않는 AI 는 필터 말고 정보로 대치

디지털 시대의 가장 뜨거운 주제 중 하나가 바로 인공지능 (AI) 이자 그로 인해 변화하는 콘텐츠 생태계입니다. 우리는 매일 SNS 에 올라오는 사진이나 글, 영상이 인간이 직접 조작한 것인지, 아니면 알고리즘이 만들어낸 것인지 고민하기까지 합니다. 이러한 배경 속에서 인스타그램의 최고 책임자 아담 모세리 (Adam Mosseri) 는 최근 인터뷰를 통해 AI 콘텐츠가 피드에 존재하는 것 자체에 대한 주장을 내놓았습니다. 하지만 그는 그것을 완전히 금지하는 방안을 원하는 것이 아니라, 사용자가该内容가 AI 임을 인지하도록 돕는 것에 집중하고 있습니다.

모세리는 자신의 인터뷰에서 “AI 콘텐츠를 좋아하지 않는다면, 피드에 들어오게 하시면 된다”는 표현을 사용했습니다. 물론, 이 말은 사용자들의 선택권을 존중한다는 의미이면서도, 플랫폼 차원에서 필터링 기능을 강제적으로 제공하는 것을 거부하는 입장인 셈입니다. 그는 팟캐스트 인터뷰를 통해 AI 콘텐츠를 제거하는 것 보다는, 사용자가该内容에 대한 경고를 받을 수 있어야 한다고 설명했습니다. 이는 현재 틱톡이나 유튜브, 페이스북 등 다른 플랫폼들처럼, AI 생성 콘텐츠에 대한 라벨링은 하되, 사용자가 이를 숨길 수 있는 직접적인 필터 옵션은 제공하지 않는 현재의 정책과 맞닿아 있습니다.

하지만, 기술적인 어려움도 존재합니다. 그는 AI 콘텐츠 감지가 매우 어렵다며, AI 모델이 발전할수록 플랫폼이 이를 감지하는 능력이 떨어질 수 있다고 경고했습니다. 완벽한 검출률을 유지하는 것은 점점 더 힘든 일이기 때문입니다. 그래서 실용적인 대안으로 실제 카메라로 촬영한 콘텐츠 또는 지문 기술을 통해 진짜 미디어임을 표시하는 방안을 제시했습니다. 이는 콘텐츠가 인간이 직접 촬영했음을 증명하는 것이 더 현실적인 접근이라는 의미를 담고 있습니다. 결국 사용자에게 선택권을 주되, 확실한 정보를 제공하는 것이 핵심이죠.

그런데 기술의 진화는 늘 양날의 칼로 다가옵니다. 메타가 최근 출시한 AI 이미지 생성기인 Muse Spark 는 사용자들을 태그하여 그 사람의 얼굴을 AI 이미지 속에 합성할 수 있게 해주는 기능입니다. 이는 성학대 센터의 전직 디렉터인 헤일리 맥나마라가 지적한 바와 같이, 성 착취, 성 학대, 괴롭힘, 신원 도용 등 명백하고 예견 가능한 위협을 초래할 수 있는 위험 요소입니다. 사람들이 자신의 이미지를 동의 없이 AI 작품에 사용될 수 있다는 우려에서 오는 것이지요.

인스타그램은 스팸성 AI 콘텐츠에 대한 대응은 유지하되, 기술 자체 발전은 계속 받아주겠다는 입장이죠. 따라서 중요한 것은 플랫폼이 모든 것을 통제하지 않는다는 점입니다. 대신 사용자가 스스로 피드를 관리하고, AI 가 싫다면 피드에 넣지 않는 것이지 않나요. 이는 모세리가 말한 철학이기도 합니다.

결국, 우리는 AI 와의 공존 방안과 윤리적인 기준을 설정해야 합니다. 기술적으로는 필터링보다 라벨링이 더 중요하지만, 윤리적으로는 사용자의 동의와 프라이버시 보호가 반드시 동반되어야 합니다. 이러한 방향으로 인스타그램이 앞으로 어떻게 발전해 나갈지, 그리고 AI 생성물과 실제 콘텐츠의 경계가 어떻게 흐려져갈지에 대해 우리는 계속 주목해야 할 것입니다. 사용자들은 단순한 콘텐츠 소비자가 아닌, AI 가 만들어내는 디지털 공간의 구성원임을 잊지 말아야 합니다.

이러한 논의는 단순히 인스타그램 한 곳에 머무는 것이 아닙니다. AI 기술이 발전함에 따라 SNS, 검색 엔진,甚至在 뉴스 배포 등 모두에서 콘텐츠의 출처와 생성 방식을 명확히 해내는 것이 사용자 권리 보호의 중요한 부분이 되었습니다. 플랫폼은 기술을 발전시키되, 그 기술을 악용하는 것을 막는 경계선은 설정해야 합니다. 결국 모세리의 말처럼, 원하지 않는다면 피드에 넣지 않는 것이 가장 간단하지만, 플랫폼은 그런 선택을 사용자가 스스로 쉽게 할 수 있도록 환경을 조성하는 역할을 해야 할 것입니다. 이 모든 것이 결국 디지털 사회의 건강한 미래를 위한 논의가 될 것입니다.

이 글은 The Verge의 기사를 바탕으로 작성되었습니다.