AI 도입이 급증하지만 인프라와 거버넌스 준비는 미흡한 현실

기업들이 인공지능 (AI) 도입 속도를 높이고 있다는 소식은 이제 더 이상 선택지가 아닌 필수가 되어가고 있습니다. 그러나 TechRadar 가 보도한 최신 연구 데이터를 살펴보면, 실제 기업 내부에서는 AI 를 안정적으로 운영할 수 있는 기반 시설이나 거버넌스를 준비하는 데 많은 어려움을 겪고 있다는 냉정한 현실이 드러납니다. Nutanix 의 새로운 연구 결과를 살펴보면, 현재 대부분의 조직이 AI 워크로드를 지원하기 위해 컨테이너 채택을 확대하고 있다는 점은 고무적이지만, 여전히 근원적인 문제들에 직면해 있다는 지적입니다. 특히 기존 인프라가 온프레미스 AI 작업에 적합하지 않다고 인정하는 리더의 비율이 무려 82% 에 달하며, 이는 기업들이 기술적 혁신과 조직 운영 간의 균형을 세우지 못하고 있을 뿐만 아니라, 현대화 노력을 지연시키고 있다는 것을 의미합니다. 단순히 트렌드를 쫓는 것만이 문제가 아니라, 어떻게 하면 비즈니스 프로세스 자체를 AI 에 맞게 최적화할 수 있을지에 대한 깊은 고민이 필요하다는 점도 부각되고 있습니다.

이러한 배경 속에서 ‘그림자 AI’의 출현은 매우 중요한 신호로 인식되고 있습니다. 그림자 AI 란 기업의 공식적인 승인 없이 직원들이 자사 내부에서 AI 도구를 스스로 사용하는 현상을 말합니다. 연구에 따르면 87% 의 기업 담당자들은未经许可의 AI 사용이 비즈니스 리스크를 초래할 수 있음에도 불구하고, 여전히 직원의 수요에 따라 그림자 AI 가 확산되고 있는 상황에 노출되어 있습니다. 이는 직원이 AI 에이전트를 통해 고객 경험 (61%), 생산성과 효율성 (58%), 그리고 새로운 제품과 서비스 창출 (57%) 에서 AI 의 혜택을 보고 싶어 함에도 불구하고, 기업이 적절한 인프라를 제공하지 못하여 보안 없이 접근할 수밖에 없는 처지를 보여줍니다. 결국 직원은 자체적으로 해결책을 찾음으로써 AI 로부터의 이점을 얻고 있지만, 기업 측면에서는 데이터 주권이나 보안 정책과의 충돌을 겪고 있어 관리가 매우 어렵습니다. 실제로 업무 보조 도구로만 사용하는 수준을 넘어서서, 기업 내부의 민감한 데이터를 가공하는 경우 보안 정책 위반의 위험이 실재합니다. 특히 금융이나 의료 등 규제 산업군이라면 이 문제는 더욱 부각될 수 밖에 없습니다.

인프라의 현실적인 한계 역시 무시할 수 없는 큰 벽입니다. 데이터 주권 문제로 인해 클라우드와 온프레미스 환경 간 선택이 복잡해지면, 현대화 노력을 더욱 지연시킬 위험이 존재합니다. 80% 이상의 기업이 데이터 주권이 인프라 결정에 더 큰 역할을 한다고 지적하며, 이는 글로벌 환경에서 데이터가 어디서든 처리되어야 하는 상황에서 발생하는 복잡한 문제를 시사합니다. 이러한 맥락에서 컨테이너 채택이 핵심 전략의 일부로 부상했습니다. 85% 의 조직이 컨테이너 채택을 확대하여 속도, 신뢰성, 확장성을 확보하고자 한다고 밝혔는데, 이는 기술적 인프라가 단순한 호스팅을 넘어 비즈니스 워크로드의 핵심 구성 요소로 자리 잡았음을 보여줍니다. Nutanix 의 리포트를 보면 컨테이너는 작업의 이동성을 제공하여 어느 환경에서도 AI 워크로드를 실행할 수 있게 해주지만, 이 기술을 도입하더라도 기존 인프라가 AI 에 최적화되지 않았다면 보안과 안정성 측면에서 여전히 도전을 겪을 수밖에 없다는 점은 반복적인 경고다.

조직 내의 부서 간 벽 역시 AI 도입을 어렵게 하는 핵심 변수 중 하나입니다. 영업, 마케팅, 개발팀 등 부서 간 칸막이가 효과적으로 해결되지 않아 AI 구현에 어려움을 겪는다는 우려를 가진 기업이 4 명 중 5 개에 달하는 82% 입니다. 이는 기술 부서와 비즈니스 부서 간 소통이 원활하지 않아 기술 도입이 실제 비즈니스 가치를 창출하는 데 실패하는 경우가 많음을 지적합니다. 리더들은 이러한 조직 문화적인 문제까지 해결해야 하지만, 동시에 기술적 기반을 다져나가야 하는 이중고를 겪고 있습니다. 결국 기업은 AI 를 단순한 도구나 트렌드가 아닌, 조직을 재설계하면서 도입해야 할 핵심 전략으로 인식해야 합니다. 기업급 보안과 복원력, 그리고 이동성을 갖는 인프라 구축이 AI 워크로드의 안정적 실행에 필수적입니다. 이러한 문제의식을 가지고 각 기업은 IT 와 비즈니스의 경계를 허물고, 직원의 AI 활용 요구를 수용하면서도 보안과 거버넌스를 함께 강화하는 방향을 모색해야 할 것입니다. 그래야만 AI 가 기업의 성장이 아니라 리스크로 전환되지 않으면서도 혁신의 동력을 잃지 않을 수 있을 것입니다. 우리는 이 시점에서 AI 기술 자체에 집중하기보다, 기술이 기업 환경에 어떻게 적응할 수 있는지에 대한 더 넓은 시야가 필요함을 느낍니다.

이 글은 Latest from TechRadar의 기사를 바탕으로 작성되었습니다.