AI 에이전트, 아마존 주문 금지.. 법원 명령으로 제동

최근 생성형 AI 기술의 핵심 영역이 되면서 주목받는 ‘에이전트’ 기술이 급격히 발전하고 있지만 법은 이를 따라가지 못하는 상황이 이어지고 있습니다. 이로 인해 발생한 퍼플렉시티 (Perplexity) 와 아마존 (Amazon) 간의 법적 분쟁이 그 대표적인 사례가 되었습니다. 이번 사건은 AI 가 웹서핑을 통해 정보를 수집하고 자동으로 구매 결정을 내리는 자율성의 범위를 명확히 하고 있습니다.

아마존 법원은 선처금지 명령 (Preliminary Injunction) 을 통해 퍼플렉시티 의 AI 에이전트가 아마존 플랫폼에서 상품 주문을 하거나, 웹사이트 데이터 처리를 중단하라 했습니다. 이는 AI 가 웹서핑을 통해 정보를 수집하고 구매 결정 내리는 행동이 플랫폼 이용 약관을 위반하는 경우가 될 수 있음을 보여줍니다. 또한, 관련된 모든 웹사이트 데이터도 삭제해야 한다는 조건도 함께 붙었습니다. 이는 AI 에이전트가 웹 접근 시 보안 정책과 사용자 보호를 위해 어떻게 설계되었는지에 대한 검증이 필요하다는 의미이기도 합니다.

이 사건은 단순한 소송을 넘어 AI 의 자율성과 인간 제어 사이의 경계를 정의하는 중요한 선례가 될 수 있습니다. 과거와 달리 AI 가 스스로 작업을 수행하는 에이전트들은 웹 크롤링을 통해 데이터를 모으고, 이를 바탕으로 구매를 집행합니다. 하지만 이 과정에서 아마존과 같은 플랫폼의 규칙을 준수하지 않은 행위가 발생할 경우, 법적 리스크를 감수해야 한다는 것입니다. 퍼플렉시티 는 현재 해당 에이전트 기능을 수정하거나 중단하면서 사건을 해결하려 하고 있습니다. 이는 기술 발전의 속도가 법제도의 속도를 따르지 않을 때 발생하는 전형적인 문제 상황을 보여줍니다.

아마존과 같은 글로벌 플랫폼은 사용자 보안과 신뢰를 최우선으로 생각하기 때문에, 외부 AI 에이전트를 통한 접근 시 보안 검증이 철저해야 합니다. 만약 API 를 통한 공식적인 방법 대신 웹 브라우저 크롤링을 이용한 접근이 시도된다면, 이를 악용하여 계정이 해킹되거나 비허가 거래가 발생할 수 있습니다. 따라서 아마존 측의 입장에서는 플랫폼 내부의 시스템 안전성을 보호하기 위해 모든 비공식적인 외부 에이전트 접근을 통제해야 한다고 주장합니다. 이는 모든 AI 개발자에게 공신할 수 있는 경고로 작용할 것입니다.

또한, 이번 재판의 최종 결과가 어떻게 될지 지켜봐야 합니다. 선처금지 명령이 확정된다면, 퍼플렉시티 는 해당 AI 에이전트 기능 자체를 재설계하거나 중단해야 할 수도 있습니다. 이는 AI 검색 엔진 시장에서 경쟁력을 잃게 될뿐만 아니라, 사용자들에게 ‘AI 가 무엇을 했는지’에 대한 투명성을 확보해야 할 의무도 생깁니다. 소비자들은 AI 가 대신 주문한 물건을 받았을 때, 이 물건을 누가 어떻게 샀는지에 대한 책임 소재가 불분명해지기 때문입니다. 이러한 책임 소재 문제는 향후 디지털 거래의 기본 원칙을 흔들 수 있는 중요한 쟁점이 되겠습니다.

결국 이번 사건은 AI 의 미래 설계도에 있어 ‘인간 통제’ 가 얼마나 중요한지를 보여주는 사례입니다. 기술은 빠르지만 법과 윤리는 뒤따라오려야 합니다. 우리는 이 사건을 통해 AI 에이전트 개발 단계에서부터 각 플랫폼의 보안 규정을 철저히 준수할지, 아니면 기술의 경계를 넘어서며 논란을 유발할지 지켜볼 수 있습니다. 아마존을 비롯해 구글 플레이나 애플 앱 스토어 등 다른 플랫폼도 비슷한 조치를 취할 가능성이 높습니다. 따라서 관련 업계 종사자들은 각자의 AI 에이전트 개발 시 사용자 보호 및 플랫폼 정책 준수를 고려하는 것이 좋습니다. 결론적으로 기술의 자유로운 진흥보다는 안전한 생태계가 더 중요하다는 것을 이번 사건은 일깨워줍니다.

향후에도 AI 와 인간이 공존하는 사회에서 어떤 규칙이 생길지 끊임없이 궁금해집니다. 오늘 소개한 퍼플렉시티 와 아마존의 사건은 그 시작점일 뿐입니다. 각 플랫폼마다 AI 와의 협업 규칙이 다르다는 점을 기억하세요. 개발자 여러분은 자신의 AI 에이전트 개발에 이 법적 리스크를 명심하며 조심스럽게 접근할 필요가 있습니다. 끝으로, AI 가 우리 삶에 깊숙이 들어오지만, 그 중심에 항상 인간의 안전과 동의가 있어야 함을 잊지 맙시다. 이 뉴스는 IT 업계의 경향성 변화를 예고하며, 향후 AI 거버넌스 강화 필요성을 다시 한번 강조합니다.

이 글은 PCMag의 기사를 바탕으로 작성되었습니다.