아마존, 'AI채용시스템' 폐기…알고리즘이 남성 선호

다양성에 초점 둔 새로운 시스템 시도 계획

AI 채용 시스템을 통해 공정성을 보장할 수 없음을 확인한 아마존이 이 프로젝트를 자체 폐기했다. /AFPBBNews=뉴스1

세계 최대 전자상거래 기업 아마존이 2014년부터 인공지능(AI) 채용 시스템을 개발해오다 알고리즘에서 여성 차별적 인식이 드러나자 폐기한 것으로 전해졌다. 공정성을 위해 점점 많은 기업들이 AI 채용시스템 도입을 준비하고 있지만 AI 알고리즘마저 편향적인 모습을 보인 것이다.

10일(현지시간) 로이터통신에 따르면 아마존은 그동안 영국 스코틀랜드 에든버러에 엔지니어링팀을 꾸리고 AI 채용 프로그램을 개발해왔다. 500대의 컴퓨터가 구직 희망자의 지원서를 약 5만 개 키워드로 분석해 1개에서 5개까지의 별점을 매기는 프로그램이다.

그러나 개발이 1년쯤 진행되었을 무렵 아마존 자체 AI 채용시스템이 여성 지원자를 선호하지 않는다는 사실이 드러났다. AI가 10년간의 아마존 지원자 데이터를 분석한 결과 남성 지원자가 압도적으로 많았기 때문이다.

이 채용 프로그램은 이력서에 '여성'이라는 단어가 들어가거나 동아리 항목에 '여성 체스 클럽'이라는 문구가 들어간 지원자를 감점했으며, 여대를 나온 2명의 지원자 원서에도 불이익을 줬다.

성별에 대한 편향만이 문제가 아니었다. 키워드를 자체 분석하는 AI 채용 프로그램의 알고리즘 때문에 지원자의 기술이나 능력보다는 지원서에 쓴 능력과 관련 없는 단어들이 더 중요해졌다. 실제로 '실행했다(executed)' '데이터를 수집했다(captured)'는 단어를 지원서에 쓴 경우 좋은 평가를 받았다.

아마존은 AI의 시스템 개선에 나섰지만 공정성 확보에 실패했다고 판단해 지난해 초 AI 채용 프로그램을 자체 폐기했다. 이와 관련 한 엔지니어는 "AI 채용 시스템의 문제는 자격 없는 지원자들이 거의 모든 분야에서 추천됐다는 것"이라면서 "AI가 거의 임의대로 결과를 가져오면서 아마존은 이 프로젝트를 중단할 수밖에 없었다"고 밝혔다.

한편 아마존 인사팀은 "AI 채용시스템의 결과를 보기는 했지만 이것만 갖고 채용한 것은 아니다"라면서 "우리는 직장 내 다양성과 평등을 위해 노력하고 있다"는 입장을 내놨다. 아마존은 이번 실패를 딛고 에딘버러에 엔지니어링팀을 다시 꾸려 다양성에 초점을 맞춘 새 채용 시스템 개발을 시도할 것이라고 밝혔다.


머신러닝 전문가인 니하르 샤 카네기멜론대 교수는 CNBC에서 "알고리즘이 공정하다는 것을 증명하는 것은 여전히 상당히 어려운 일"이라고 말했다.