미국 성인의 절반, AI 콘텐츠 라벨링 강화 요구하고… CNET 조사로 확인하는 신뢰 문제와 우리의 대응 방안
최근 소셜미디어를 매일 둘러본 적이 있다면, 이미 우리 생활은 어디까지나 인공지능 (AI) 에 둘러싸여 있다는 것을 느끼셨을 것입니다. 하지만 알고보면 우리는 실제로 AI 가 만든 콘텐츠인지 구별하기가 정말 어렵습니다. 미국의 주요 기술 매체인 CNET 이 최근 발표한 설문조사 결과를 통해 이러한 문제의식과 그 배경에 담긴 충격적인 수치를 발견하실 수 있습니다.
먼저 가장 놀라운 통계는 ‘만성적인 AI 의식’입니다. 미국 성인의 94% 는 소셜미디어에서 AI 가 제작하거나 변조한 콘텐츠를 접했다고 느끼고 있다고 합니다. 이는 거의 모든 사용자층이 예민하게 반응하느냐 하는 이야기라기보다는, 우리 눈에 보이는 것의 상당수가 이미 가공된 이미지일 가능성이 있다는 뜻입니다. 하지만 문제는 ‘인지’와 ‘증명’ 사이의 괴리에 있습니다. AI 가 만든 사진과 실제 카메라로 찍은 사진을 구분할 자신이 있다고 답한 사람은 전체의 44% 불과합니다. 이差距는 우리가 디지털 시대의 눈으로 세상을 바라보는 방식에 얼마나 큰 혼란이 생겼는지를 여실히 보여줍니다.
CNET 의 인터뷰 내에서는 이렇게 ‘AI 슬롭 (AI Slop)’이라는 용어도 등장합니다. 이는 단순히 AI 로 생성된 콘텐츠가 많다는 것을 넘어, 영혼 없는 이미지나 bizarro한 영상들까지 인터넷을 오염시키고 있다는 의미로 사용됩니다. 대부분 사용자들이 믿고 공유하는 사진과 글이 실제로 사람에 의해 쓰여졌는지 확인할 수 없다는 불안감이 커지고 있는데도 불구하고 플랫폼들은 규제를 늦추고 있습니다. 일부 사용자들은 이러한 혼란 속에서 콘텐츠를 소비하는 것이 오히려 무력감을 느끼고 있다고 호소하며 변화의 필요성을 강조합니다.
이러한 현상의 또 다른 흥미로운 점은 세대에 따른 차이를 보였습니다. 조사에 참여한 2,443 명 중 젊은 세대인 Z 기와 밀레เนีย는 AI 관련 규제가 필요하다는 의견을 가장 적극적이지만, 베이비 부머 (Boomers) 와 X 세대 (Gen X) 는 오히려 검증 활동을 거의 하지 않는 경향이 있었습니다. 8 년 이상 소셜미디어를 사용해온 베테랑인 반면에도 실제 콘텐츠의 출처를 확인하지 않는 경우가 많았고, 이는 결국 AI 가 악용되어 피해가 발생할 경우 가장 약한 세대로서의 영향으로 이어질 수 있다는 점을 시사합니다.
사용자들이 콘텐츠를 검증하는 방법에는 몇 가지 경로가 있습니다. 72% 는 의심이 들 때 시각적 단서를 찾아보거나 다른 곳에 같은 콘텐츠가 없는지 검색합니다. 과거에는 AI 가 만든 사진에 손가락 수가 잘못 그려졌다거나 배경이 꼬는 등의 오류가 있었다면 이를 식별하기 쉬웠으나, 최신 모델은 이러한 오류를 거의 만들어내지 않습니다. 그 결과 사람들은 새로운 검증 수단을 모색하고 있는데, 가장 많이 언급되는 것이 바로 라벨입니다. 콘텐츠를 제작할 때 AI 가 사용했다는 표시가 있어야 한다는 목소리가 전체 응답자의 절반에 이릅니다. 51% 의 성인들은 더 나은 AI 콘텐츠 라벨링이 필요하다고 생각하며 이는 밀레니얼과 Z 기 중에서도 특히 큰 지지를 받습니다.
반면 소수 의견으로는 AI 생성 콘텐츠를 아예 금지해야 한다는 주장도 있습니다. 전체 응답자의 21% 는 소셜미디어에 AI 생성물이 전면적으로 금지되어야 한다고 말했고, 이는 플랫폼들이 이를 단순히 가이드라인만으로 관리할 것이 아닌 기술적 필터링이나 엄격한 규제를 도입해야 함을 강조합니다. 핀터레스트는 AI 콘텐츠 필터를 내놓은 반면 틱톡은 여전히 테스트 단계에 있습니다. 이렇게 각 플랫폼마다 접근 방식이 달라지는 이유는 라벨링 시스템처럼 사용자 참여가 중요한 방법도 있지만, 완전한 자율성을 기대하기 어려우기 때문입니다.
최종적으로 이 조사가 우리에게 주는 교훈은 명확합니다. AI 가 인터넷을 재편하면서도 우리는 여전히 인간적인 신뢰를 잃지 못해야 합니다. 이미 심리 조작이나 사기 목적으로 AI 를 이용한 사례가 증가하고 있으므로, 콘텐츠의 출처를 아는 것만으로도 피해 예방에 상당한 도움이 됩니다. 한국에서도 유사한 문제가 발생할 가능성을 대비해 사용자 교육과 플랫폼의 책임 있는 라벨링 정책 마련이 시급합니다. 우리는 기술의 발전 속도가 인간의 판단 능력을 추월하지 않도록 항상 각별한 주의를 기울여야 합니다.
이 글은 CNET의 기사를 바탕으로 작성되었습니다.
