AI 시대의 사기 경고 신호, 피해자 되지 않으려면

반갑습니다. 저는 오늘 여러분께 매우 중요한 IT 보안 뉴스를 가져왔습니다. IT 전문 블로거로서 제가 주목하고 있는 점은 최근 몇 년간 Gmail 을 비롯한 주요 이메일 서비스에서는 스팸 필터를 거쳐 성공적으로 도달하는 사기성 이메일이 눈에 띄게 늘고 있다는 것입니다. 과거에는 단순한 스팸으로 여겨졌던 메일들이 이제는 진화한 지능형 시스템에 의해 더욱 설득력 있고 전문적으로 구성되고 있죠. 이는 단순히 메일링 주소가 아니라 우리의 개인정보가 어떻게 노출되어 활용되는지에 대한 경고이기도 합니다. 특히 CNET 의 기사는 이러한 현상을 구체적으로 분석하며, 우리가 얼마나 무방비 상태인지에 대해 경고하고 있습니다.

저 같은 저술가들은 때때로 가상의 북클럽에서 온 메일을 받곤 합니다. 제 글을 칭찬해 주면서 내 책을 마케팅해주겠다고 하지만, 해당 북클럽 자체는 존재하지 않거나 담당자와도 관련이 없는 경우가 많습니다. 이는 모든 저널리스트나 작가들 사이에서도 비슷한 패턴이 관찰되고 있으며, McAfee 같은 안티비맙 기업의 전문가들도 실제로 이러한 메일이 인공지능을 통해 생성된 것으로 강력하게 의심합니다. McAfee 의 안티비맙 팀에서는 현재 스캅을 위해 사람들이 인공 지능을 사용하면서도 기술적 역량이 낮아도 쉽게 사기를 저질릴 수 있도록 돕는 Phishing-as-a-Service 가 유행하고 있다고 말합니다. 이는 공격자들이 더 이상 복잡한 코딩을 배워야 하는 것이 아니라, 템플릿만 복사해서 사용할 수 있게 해서 악용을 훨씬 더 쉽게 만들었습니다.

가장 우려되는 점은 딥페이크 오디오와 보이스 클로닝 기술이 활용되면서, 목소리뿐만 아니라 표정과 작성 스타일까지 복제할 수 있게되었다는 것입니다. 이는 매우 심각한 수준입니다. 한 가지 경고 사항으로, 내 책 소개글 단어들을 가져다 새로운 문장으로 재구성해 나를 팬으로 속이는 개인화된 메일이 오는 경우가 있는데, 이는 AI 가 텍스트를 즉시 생성하고 수집한 내용을 활용하기 때문입니다. 중요한 점은 사기꾼들이 모든 정보를 바로 보내는 것이 아니라, 제가 일단 반응해 관심을 보이게 만든 후에나 악의적인 링크나 파일을 첨부한다는 것입니다. AI 가 개인화된 내용을 써서 스팸 필터를 우회하고, 나중에 위험한 원본을 보낸다면 우리는 이를 식별하는 데 어려움을 겪을 수밖에 없습니다.

Taylor Peltzman 같은 보안 인사는 AI 가 사기의 목표 자체를 바꾼 건 아니지만, 실행을 효율적이고 쉬워뜨켰다고 설명합니다. 구글 드라이브나 마이크로소프트 365 같은 신뢰할 만한 서비스까지 악용으로 써먹고, 단계적인 공격을 구성할 수 있게 되면서 조직들도 이를 탐지하는 데 더 큰 어려움을 겪습니다. 또한 딥페이크 테크놀로지와 목소리 복제 기술은 실제 사람들의 얼굴, 목소리, 심지어 문체와 톤을 모방할 수 있어 감정이입이 강한 사기를 저지를 수 있습니다. 완벽한 클레이션이라도 적절한 컨텍스트에서 매우 설득력이 있어 탐지하기 어렵다는 것이 전문가들의 설명이지요.

구체적인 사기 유형으로 먼저 포커 스가 맞은 대체인 스캅이 있습니다. 가족이나 친지, 은행, 경찰 등 권위를 사칭해서 긴급한 돈이나 정보를 요구하는 경우가 많습니다. AI 가 이를 도와줘서 실제 사람을 흉내 내기 때문에 더 속기 쉽습니다. 온라인 쇼핑 사기 또한 흔합니다. AI 가 만든 가짜 웹사이트나 광고를 통해 없는 제품을 저렴하게 팔거나, 조작된 리뷰로 우리를 유인합니다. 특히 크립토커니 관련한 스캅 즉, 돼지 도살 사기에서 우리는 믿음을 바탕으로 돈을 계속 쓰게 유도하다가 어느 순간 사라집니다. 로맨스 스캅도 AI 에 의해 쉬워졌습니다. 가짜 인간으로 만들어 오랜 시간 연락하며 신뢰를 쌓고, 위기 상황을 만들어 돈이 필요하다고 외면합니다. AI 로 개인화된 메시지 생성이 가능해지기 때문에 각 사람마다 맞는 식이 만들어집니다.

로맨스 스캅은 가짜 사람을 만들어 온라인에서 인간적인 관계를 맺게 유도한 뒤 갑자기 돈을 요구하는 경우가 많은데, 이는 AI 가 메시지를 최적화해 주는 덕분에 속기 쉽습니다. 마지막으로는 지갑이나 페이먼트 앱 관련 사기도 조심해야 합니다. 결국 우리는 지금처럼 지능형 AI 를 사용할 수 있기 때문에 더욱 각별한 주의가 필요합니다. 우리는 더 이상 과거보다 스마트하기 위해 노력해야만 안전할 것입니다. 링크 클릭 전에 반드시 출처를 확인하고, 민감한 정보는 절대 제공하지 않는 것이 좋습니다. 의심스러우면 휴가하거나 전문가의 도움을 받는 습관을 기르는 것이 중요합니다. 우리는 더 이상 과거보다 스마트해야 안전할 것입니다.

이처럼 AI 기술의 발전은 우리가 생각하지도 못하고 상상하지 못했던 새로운 형태의 위협을 가져오고 있습니다. 하지만 그렇다고 해서 무조건 두려워할 필요는 없습니다.只要我们 항상 경계를 늦추지 않고, 기본적인 체크리스트를 따라 행동한다면 이러한 위험을 효과적으로 막아낼 수 있습니다. 오늘 작성한 내용을 통해 여러분의 이메일 계정과 개인 정보를 보호하는 첫걸음을 옮겨주시길 바랄게요. 만약 주변에 이러한 피해를 당할 위험이 높은 분이 있다면 이 글 한 번 읽어보게 해주세요. 보안은 개인의 문제일 뿐 아니라 전체 사회적 책임이기도 하니까요. 끝으로, 여러분도 스스로의 안전을 위해 오늘부터 조금 더 주의 깊게 이메일을 확인하시길 권장합니다.

이 글은 CNET의 기사를 바탕으로 작성되었습니다.