인공지능 채용 편향성, 90 담당자가 따른다… 인간 개입 왜 실패했나

안녕하세요, 친절한 IT 전문 블로거입니다. 오늘 우리는 채용 시장에서 가장 뜨거운 이슈 중 하나, 인공지능의 편향성 문제에 대해 깊이 있게 알아봅니다. 지금의 IT 시장에서는 인공지능 (AI) 도구가 업무의 효율성을 높이기 위해 전 분야에서 활용되고 있는데, 특히 채용 프로세스에서 AI 가 이력서를 걸러내거나 후보자를 추천하는 시스템이 널리 쓰이고 있습니다. 이러한 기술의 도입은 인력 운영 비용 절감과 시간 단축의 효과를 가져왔지만, 연구 결과에는 숨겨진 위험성이 존재함이 지적되고 있습니다.

최근 TechRepublic 에서 보도된 한 연구에 따르면, 채용 담당자들은 인공지능 시스템에서 제시하는 합격 추천을 무려 90% 의 비율로 그대로 수용하고 있다고 합니다. 이 수치는 매우 우려의 대상으로 받아들여지고 있습니다. 본래 AI 의 채용 시스템을 도입할 때는 여기에 인간이 참여하여 최종 판단을 내리는 ‘인간이 루프에 참여 (Human in the loop)’ 방식을 채택하여, AI 는 알고리즘은 인간은 편향성을 교정한다고 믿었습니다. 하지만 실제 사례들을 보면, 알고리즘이 제안하면 대부분의 채용 담당자가 이를 수정하기보다 따르는 경향이 있음을 보여줍니다.

이러한 현상은 단순한 인간의 편의에서 비롯된 것이 아니라 심리학적 ‘자동화 편향 (Automation Bias)’이 작용하고 있기 때문입니다. 사람은 복잡한 정보와 판단을 내릴 때 기술적인 솔루션을 더 신뢰하며, 자신의 판단보다 기계의 판단에 의존하게 됩니다. AI 채용 도구들은 과거의 대량 데이터를 기반으로 학습되는데, 만약 역사적 데이터에 성별, 인종, 학벌 등의 편향성이 포함되어 있다면, 이를 바탕으로 미래를 예측하는 알고리즘은 똑같은 편향성을 재생성할 수 있습니다.

예를 들어, 예전부터 특정 성별이나 인종이 우수하다고 판단하여 높은 평가점수를 받은 데이터를 학습했으면, AI 는 다른 배경을 가진 후보자를 부정적으로 평가할 가능성이 높습니다. 이렇게 생성된 편향된 결과를 채용 담당자가 그대로 수용하면 조직 내 다양성 증진은커녕 오히려 차별이 공고해질 위험이 있습니다. 따라서 90% 의 높은 수용률은 인간을 보조하는 도구가 아닌, 오히려 편향을 확장하는 매개체가 될 수 있음을 시사합니다.

이러한 문제점을 해결하려면 기업과 채용 담당자 모두에 대한 철저한 노력이 필요합니다. 먼저 사용 중인 AI 채용 도구의 내부 알고리즘과 학습 데이터 출처를 투명하게 공개하고 검증해야 합니다. 기술은 완벽하지 않으므로, 이를 맹신하지 않고 주기적인 감사를 통해 오류와 편향을 찾아내는 체계를 마련해야 합니다. 또한 채용 담당자들에게 기술의 한계를 교육하고, AI 의 권고를 절대적 기준으로 삼지 않도록 인식 개선 교육을 진행해야 합니다.

두 번째로는 알고리즘에 의존하지 않는 수동적인 인사 평가 방법도 병행해야 합니다. 포트폴리오, 면접 (면접) 등 인간이 직접 참여해야 할 과정을 충분히 강조하고, AI 로 평가되는 항목보다 인간이 판단해야 할 핵심 역량을 명확히 구분해 setting 해야 합니다. 그리고 채용 담당자 개인의 경험과 전문성을 기반으로 AI 는 보조 도구로만 사용하며, 최종 결정은 반드시 인간이 내리는 것을 조직 문화로 삼아야 합니다.

결국 이번 연구가 보여주며 우리는 ‘기술은 도구일 뿐, 판단은 인간이 한다’는 원칙을 다시 한번 강조할 필요가 있습니다. 채용 과정에서의 기술 편향성 문제는 개인의 노력만으로 해결될 문제가 아니라, 사회적, 윤리적 기준을 마련하는 차원의 대화가 필요합니다. 기업의 사회적 책임 (CSR) 측면에서도 공정하고 투명한 채용은 필수적이며, 이를 위해 AI 기술을 올바르게 활용하는 가이드라인이 마련되어야 할 것입니다.

저의 견해로는 기술에 대한 의존도를 줄이고, 인간 상호작용을 통한 신뢰 구축을 우선시하는 채용 전략이 필요합니다. AI 가 아무리 발전해도 인간의 뉘앙스와 맥락을 완벽하게 대체할 수는 없습니다. 오히려 기술은 인간이 놓치기 쉬운 데이터를 보완해 주지만, 최종적인 가치 판단은 인간이 해야 합니다. 오늘 소개된 내용을 계기로 여러분의 조직이나 채용 프로세스를 점검해 보시길 권해 드립니다. 더욱 공정하고 인간 중심의 채용 문화를 만드는 것이 장기적인 기업 가치를 높이는 지름길이 될 것입니다.

더 궁금한 점이 있다면 댓글로 남겨주세요. 지금까지의 기술 혁신과 함께 윤리적 고려가 동반된 IT 생태계를 위해 노력하겠습니다. 감사합니다.

이 글은 TechRepublic의 기사를 바탕으로 작성되었습니다.