그라머리, 전문가 검토 기능으로 저술가 이름 무단 남용…옵트아웃만 권고?

최근 인공지능 기술이 우리 일상생활 전반에 깊게 침투하면서, AI 가 어떻게 학습하고 어떤 데이터를 기반으로 작동하는지에 대한 투명성에 대한 관심이 고조되고 있습니다. 특히 이번에는 영어 교정 및 문법 보정 서비스로 유명한 그라머리 (Grammarly) 의 새로운 ‘Expert Review (전문가 검토)’ 기능 때문에 큰 논란이 되면서, 기술 회사가 어떻게 사용자 데이터와 권리를 관리하는지 다시 한번 살펴보는 계기가 되었습니다.

테크 매체 ‘더 버지 (The Verge)’의 시안 홀리스터 (Sean Hollister) 편집자는 해당 기사의 내용을 통해 그라머리가 저술가들의 실제 성명을 허락 없이 사용하여 AI 의 추천 내용을 신뢰성 있는 전문가의 글로 속이려 했다고 폭로했습니다. 이 기능은 AI 가 문장 수정이나 추천을 할 때, 예를 들어 ‘닐리 Patel’ 같은 유명 에디터의 이름을 사용하여 그 글이 유명인이 작성한 것처럼 보이게 한 뒤, 사용자들에게 더 나은 글쓰기의 방향을 제시하려는 의도를 가진 기능입니다. 하지만 이 과정에서 해당 유명인들의 동의가 없었고, 실제로는 많은 유명 저술가들의 이름이 무단으로 사용되고 있다는 사실이 나중에 드러났습니다.

이 문제가 드러나자 그라머리를 만든 회사인 슈퍼휴먼 (Superhuman) 은 즉각 대응했습니다. 그러나 그 대응법식은 우리가 기대했던 사과나 기능의 완전한 제거가 아니라, ‘옵트 아웃 (opt-out)’ 시스템을 이용할 수 있도록 해준다는 것입니다. 이는 말 그대로 ‘안다면 문제 없으니, 만약 마음에 안든다면 따로 이메일로 연락해 달라고만 해주는 방식’입니다. 기업은 ‘저희는 피드백을 환영합니다’라며, ‘저술가들의 이름을 사용하는 것에 대한 더大的 통제권을 제공하겠다’는 입장을 밝혔습니다. 하지만 이 입장문에는 ‘동의’라는 단어가 단 한 번도 등장하지 않습니다. 이는 단순한 기술적 보완을 넘어, 기업이 스스로의 행위에 대한 책임을 회피하려는 태도로 비칠 수 있습니다.

실제로 제공된 탈퇴 신청 수로는 이메일만 유일합니다. 이는 현실적으로 매우 비효율적이고, 특히 사용자가 자신의 이름이 시스템에서 사용되고 있다는 사실을 알지 못한 상태에서 이미 노출된 경우, 그 사실을 알기까지 시간이 많이 걸립니다. 더 이상 우리는 기술 개발자의 이름이 사용되고 있는지 모르고 사용하다가 나중에 문제될 때 ‘알지 않는데요’, ‘동의하지 않았어요’라고 이야기할 수 있는 권리가 보장되어야 합니다. 지금의 정책은 ‘내가 모르는 일도 다 인정해서, 나한테 좋은 게 있으면 다 받아들이고, 안 받아들일 수 있으면 따로 연락하라’는 이중적 논리입니다. 이는 기술의 윤리를 위한 최소한의 선을 넘어서는 것입니다.

그라머리의 이번 사례는 AI 가 창작물이나 콘텐츠의 신뢰성을 확보하는 과정에서 ‘속임수’가 얼마나 쉽게 사용될 수 있는지 보여줍니다. AI 가 생성한 글이나 편집된 내용을 인간 전문가가 작성한 것처럼 표시하는 것은, 사실 관계를 왜곡하는 것이 될 수 있습니다. 만약 사용자나 다른 이들이 이 내용이 실제 저술가의 글이라고 믿고 그 내용을 인용하거나 신뢰하면, 허위 인용이 될 수 있고 이는 저작권 및 명예 문제까지 이어질 수 있습니다. 기업 측의 말대로 ‘더 개선할 것’이라고 하지만, 기본 정책의 방향을 바꾸지 않는다면 이번 논란은 단순히 일시적인 이슈로 머물러만 둘 것입니다.

이제는 우리는 단순히 기술을 사용한다는 것이 아니라, 기술이 우리의 권리를 존중하는지, 데이터는 어떻게 수집되고 공유되는지, 동의 절차가 정당한지 등을 반드시 점검해야 합니다. 그라머리의 정책이 바뀌기를 바라는 마음이지만, 최소한의 권리 침해 없이 기술을 사용하는 환경을 만들기 위해서는 사용자들의 목소리가 더 중요합니다. 이 사건이 하나의 전과가 아니라, 향후 AI 와 기술 기업들이 준수해야 하는 윤리 규범의 기준을 제시할 수 있다면 좋겠습니다. 결국 기술도 결국 사람이 사용하는 도구이므로, 사용자의 동의와 권리가 최우선이 되어야 한다는 점을 다시 한 번 일깨워지는 시간이 됩니다.

마지막으로, 우리는 이러한 기술 개발 과정에서의 윤리적 문제를 단순히 기업의 홍보나 설명만으로 만족해서는 안 됩니다. 독립적인 감사가 이루어지고, 투명하게 공개될 때까지는 사용자들은 조심해야 합니다. 그라머리의 이런 행동은 사용자 경험 측면에서는 편의를 제공한다고 하지만, 장기적으로는 사용자 신뢰를 해치는 요인이 될 수 있습니다. 우리는 이런 점을 고려하여, 기술 서비스를 이용할 때 그 기업이 어떤 데이터를 수집하고 어떻게 활용하는지, 동의 절차를 제대로 지키는지를 꼼꼼히 지켜봐야 합니다. 그라머리의 ‘옵트 아웃’ 시스템은 현실적으로 많은 사람들에게 너무 복잡할 수 있고, 이름이 무단으로 사용된 다른 상황에서도 같은 문제가 반복될 수 있습니다.

결국 이번 그라머리 논란은 우리에게 ‘기술은 도구이지만, 그 도구 뒤에 있는 사람의 권리와 존엄성은 보호되어야 한다’는 큰 울림을 주었습니다. 기술의 발전 속도가 빨라지기는 하지만, 그 속도만큼이나 윤리적 기준은 높아져야 합니다. 기술 회사들은 더 나은 제품을 만든다고 해서 사용자 권리를 침해하는 행동을 정당화할 권리는 없습니다. 우리는 이번 사례를 통해, 기술 기업들이 약속을 지키지 않을 때는 적극적으로 대응해야 한다는 점을 기억하고, 우리 자신의 권리를 위해 항상 깨어 있는 태도를 갖기를 바랍니다.

이 글은 The Verge의 기사를 바탕으로 작성되었습니다.