일상에 AI(인공지능)가 스며들었다. 동시에 갈등의 그늘도 넓어졌다. 알고리즘을 활용하는 다양한 분야에서 AI를 '믿을 수 없다'는 불신의 목소리가 커졌다. 미래 먹거리인 AI를 어떻게 공정하게 설계하고 활용할 것인지가 사회적 과제로 떠올랐다.
━
배달부터 택시까지 '배차 알고리즘'에 물음표…노동의 '종속' 우려━
'플랫폼 갈등'의 도화선이 된 택시업계는 줄곧 카카오 측의 부정 배차 의혹을 제기해왔다. 카카오가 자사 가맹택시에 콜을 몰아주는 불공정 행위를 하고 있다는 지적이다. 일반택시 바로 앞에서 택시를 잡아도 멀리 있는 가맹에 우선 콜이 간다는 것이다.
지난 6월 배달기사노동조합 라이더유니온은 배달앱의 AI 알고리즘이 비효율·불공정을 초래한다며 직접 검증에 나서기도 했다. 조합에 따르면 AI 알고리즘 배차를 100% 수락하는 경우에는 선택 수락 시보다 주행거리는 증가하면서도 시간당 배달건수와 수익은 감소했다.
택시기사와 라이더가 공통적으로 문제 삼는 것은 AI 알고리즘으로 인한 종속이다. 자신들의 의지에 따라 일 하기 보다는, 플랫폼의 명령에 따라서만 수입과 노동 강도가 결정된다는 것이다.
━
공정위, 검색 알고리즘 '송곳 검증'에…AI 면접은 새로운 우려로━
쿠팡 역시 유사한 혐의로 공정위의 조사를 받고 있다. 쿠팡 앱에서 PB(자체브랜드) 상품을 다른 납품업체의 상품보다 우선 노출되도록 검색 알고리즘을 조작했다는 의혹이다.
AI 알고리즘은 단순 서비스 영역에 그치지 않고 채용과 같은 개인의 중대사를 결정하는 영역까지 진출한 상태다. 취업준비생 사이에서는 이미 많은 대기업이 도입한 'AI 면접'을 두고는 뒷말이 나온다. 지원자의 역량을 다각도로 평가하고 불필요한 서류 전형을 줄인다는 취지이지만 납득하기 어려운 결과도 많다는 것이다.
지난 8월 잡코리아와 알바몬이 발표한 설문조사에 따르면 남녀 구직자 873명 가운에 AI 면접을 선호하는 비율은 35.1%로 지난해 46.2%(1951명 조사)보다 줄었다. AI 면접은 보편화하고 있지만, 오히려 알고리즘을 신뢰하기 어렵다는 목소리는 커진 셈이다.
한 취준생 C씨(27)는 "사람을 평가하는 데는 정성적인 요소도 고려할 필요가 있는데 기계가 어떤 기준으로 당락을 결정하는 지 모르겠다"며 "결국 기업에서 원하는 스펙이 아니라면 분석 알고리즘으로 모든 경험이 부정당하는 것 아니겠냐"고 지적했다.
━
정치권에선 '알고리즘 검증법'…전문가들 "공개보단 사후 검증"━
이는 해마다 선거철을 앞두고 불거지는 포털사이트의 뉴스 알고리즘 논란과도 유사한 상황이다. 여야는 각 포털사이트가 자신의 진영에 유리한 기사보다 불리한 기사를 메인에 자주 노출한다며 반발해왔다. 이에 각사는 AI 뉴스 편집을 줄이고 이용자의 선택권을 확대하는 방향으로 서비스를 탈바꿈 중이다.
IT·플랫폼 업계에서는 고도화된 알고리즘을 설계하기 위해 매년 개발자를 영입하고 막대한 예산을 들이는 데 이를 무턱대고 공개하라는 것은 '영업 기밀' 유출에 해당한다고 반발한다. 한 업계 관계자는 "국회의 주장은 맛집에서 레시피(요리법)를 빼가는 것과 같은 요구"라고 말했다.
전문가들은 AI 알고리즘 공개 같은 급진적 규제보다는 사회 전체 구성원들간 논의와 합의, 공정성 확보를 위한 기준마련 등 지속적인 신뢰확보 노력이 필요하다고 강조한다. AI 역시 사람과 우리사회가 만든 데이터를 기반으로 학습하는 만큼 불완전할 수 밖에 없다는 점을 인정하고 이를 지속 검증·보완해가는 과정이 필요하다는 것이다. 지난 5월 발표한 과학기술정보통신부의 AI 가이드라인 역시 민간이 자율적으로 신뢰성을 확보하고 정부는 이를 지원한다는 입장이다.
최경진 가천대 법학과 교수는 "알고리즘을 공개하라고 한다면 어느 기업도 사업적으로 알고리즘을 개발하려 하지 않을 것"이라며 "공개보다는 결과를 검증하고 수정하는 알고리즘의 '회복탄력성'을 키워가는 방향이 가장 현실적이고, 이를 위해 기업도 적극적인 자세를 가져야 한다"고 말했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]