AI 검출기 무용지물? 인간이 알아낸 가짜 글 판정법과 대응 전략
인공지능 기술이 급격히 발전하면서 인터넷 공간은 완전히 다른 모습으로 변모했습니다. 이제는 검색 엔진의 검색 결과부터 뉴스 집계 사이트, SNS 피드, 그리고 댓글 섹션까지 AI 가 생성한 콘텐츠가 압도적으로 많습니다. 불과 몇 년 전에는 AI 가 글쓰기에 관여한다는 것 자체가 상상하기 어려웠다 해도 과언이 없었지만, 지금은 그 규모가 너무 커져서 놀라울 정도입니다. 문제는 단순히 AI 가 글쓰기를 잘하게 되었다는 게 아니라, AI 가 작성한 글은 기술적으로 정확하며 완벽하게 형식화되어 있기는 하지만, 실제로 유용한 정보가 거의 없는 것입니다. 우리는 종종 ‘슬롭 (slop)’이라는 표현으로 이런 내용을 불평할 정도로 비어있는 내용을 마주할 수 있습니다.
이러한 상황에서 많은 사람들은 AI 검출기를 사용해 문제를 해결해야 한다고 생각하기 쉽습니다. 하지만 현실은 그렇지 않습니다. 기존에 출시된 AI 검출기들은 이미 많은 오류를 범하고 있으며, 오히려 인간이 직접 글을 분석하는 것이 더 정확함을 보여주고 있습니다. 지금처럼 기술적으로 완벽해 보이는 가짜 글들은 이미 인간이 판단할 수 있는 징후를 남기지만, 그것을 알아차리는 능력이 더 중요합니다. 특히 교육 환경이나 직장 현장에서 AI 를 이용한 사기 행태가 늘어나면서, 이를 감별할 수 있는 방법론에 대한 관심이 높아지고 있습니다.
CNET 에서 전문가인 저자는 교실 환경에서 매일 inbox 에 들어오는 AI 도구를 쉽게 감지할 수 있다고 말합니다. 그 이유는 대부분 ‘AI 가 쓴 글’이 너무 예측 가능하기 때문입니다. 특히 가장 큰 주의 신호 중 하나는 ‘위키백과 보이스 (Wikipedia Voice)’라고 불리는 양식입니다. 문법적으로는 무결하지만 영혼이 없는 글로, 허투루 반복되는 단어와 문장이 가득합니다. 예를 들어, 학생들이 평소에 단편적인 문장으로 썼는데, 갑자기 ‘다각적인 분석’이나 ‘테이스트리 (tapestry)’, ‘델브 (delve)’라는 고급 단어를 사용했을 경우 즉시 의심해봐야 합니다.
또한 AI 는 클리셰를 좋아하기 때문에, 각 단락을 깔끔한 요약으로 마무리하며 ‘결론적으로…’ 라는 식으로 문장을 끝내는 경향이 있습니다. 이는 인간의 불완전함을 없애려 하는 것이 아니라, 인간처럼 보이지만 실상 인간이 아니라는 점을 확인합니다. 이러한 특징들은 마치 딥페이크처럼 처음엔 맞아 보이지만, 인간적인 결함을 찾아보면 곧 무너지는 것과 같습니다. 실제로 인간이 쓴 내 인생 서술을 AI 가 다시 쓰면, 문장이 더 명확해 보이지만 영혼이 사라지는 것이 명확하게 드러납니다.
AI 가 쓴 글을 판별하는 일반적인 방법은 다음과 같습니다. 첫째, 과제 지시문에서 등장하는 핵심 키워드가 과도하게 반복되는지 확인합니다. 둘째, 사실이 불확실하거나 AI 가 허구를 만들어내는지 살필수 있습니다. 제 3, 문장이 자연스럽지 않거나 어색하기 때문입니다. 제 4, 설명이 일반적이고 반복적이라면 문제가 될 수 있습니다. 제 5, 톤이 평소 스타일과 달랐을 때 의심해야 합니다. 예를 들어, 학생이 채팅형 AI 가 써준 문장을 그대로 활용한다면, 이는 단순한 질문과 답변 형식인 것이 아니라, 주제를 정교하게 다루는 것은 아닙니다.
과제 지시문 예시를 보면, 300 단어 이내로 ‘SWAT 와 브랜드 오디트’가 최종 제안에 어떻게 도움이 되는지 설명하라고 했습니다. 하지만 AI 가 쓴 결과물은 핵심 키워드를 반복하는 경우가 많을 뿐만 아니라, 마치 낡은 형태의 SEO 콘텐츠처럼 보이기 쉽습니다. 학생들은 평소처럼 자신의 글에서 핵심 키워드를 이렇게 사용하지 않지만, AI 는 이를 반복해서 사용하며 독자를 현혹합니다.
여러분은 교실이나 직장 현장에서 AI 를 사용할 수 있는 능력을 이해해야 합니다. 현재 시장에서 과제와 평가 기준을 분석하여 전체적으로 완성된 작업을 순간에 작성할 수 있는 도구가 다수 있습니다. GPTZero 나 Smodin 같은 도구들을 공부하면, AI 기반의 정직성 위반을 막는 첫걸음을 밟은 것입니다. 하지만 도구를 사용하는 것보다 중요한 것은 스스로 판단하는 능력입니다.
그렇다면 AI 를 이용한 사기를 어떻게 막겠습니까? 가장 중요한 것은 ‘채터들’이 어떤 방식을 사용하는지 이해하는 것입니다. 학기 전에 모든 과제를 복사해서 챗 GPT 에 넘겨보겠습니다. AI 가 어떻게 답하는지 예를 보면, 나중에 가짜 답을 감지하는 데 도움이 됩니다. 또한 실제 글샘플을 확보하세요. 학기 시작 시 학생에게 어린 시절 좋아하는 장난감에 대해서 쓴 200 단어 글을 제출하게 하세요. 이렇게 확보한 샘플은 나중에 AI 가 의심되는 글을 검사할 때 비교 기준이 됩니다.
아마도 AI 를 활용한 사기를 의심하게 될 때, 제출된 작품을 AI 도구에 넘겨서 다시 써보라는 요청을 하세요. 대다수 AI 도구는 가능한 한 게으른 방식으로 자신을 다시 작성합니다. 동의어만 바꾸거나 원래 내용을 그대로 유지하려 하지 않습니다. AI 로 다시 쓴 글을 보면 의미가 사라지고 단순한 문장이 변하는 경우가 많습니다. 실제로 인간이 쓴 내 인생 서술을 AI 가 다시 쓰면, 문장이 더 명확해 보이지만 영혼이 사라지는 것이 명확하게 드러납니다.
AI 가 쓴 글을 언제든 판단할 수 있을까요? 가장 중요한 것은 AI 를 이용한 사기에 대한 증거를 제시할 수 있어야 합니다. 학생과 학교 관리자에게 합리적인 증거가 필요합니다. 평가 과정에서 회의적인 마음과 도구 사용 능력을 발휘하면 훨씬 강력할 것입니다. AI 나 인간 사이의 경계는 계속 흐려질 예정이므로, 이에 대비해야 합니다. 새로운 AI 프론티어에서 함께 힘을 합해서 AI 에 대응하며, 우리는 더 이상 AI detectors 에 의존하지 말고 인간 지식을 활용할 수 있어야 합니다.
결론적으로, 우리는 AI 가 작성할 수 있는 글을 완벽하게 이해해야 합니다. AI 는 인간의 언어 패턴을 학습하지만, 완전히 이해하지 못합니다. 따라서 우리는 그 차이점을 찾아내야 합니다. AI 가 쓰는 글을 판별하는 것은 기술적 문제라기보다는 언어 인식 능력을 향상시키는 문제입니다. 우리는 매일 AI 와 맞서 싸우며, 인간의 창의성을 지키는 것이 중요합니다. 이 글을 통해 여러분은 AI 가 쓴 글과 인간이 쓴 글의 차이를 알 수 있을 것입니다.
이 글은 CNET How To의 기사를 바탕으로 작성되었습니다.
