하지만 AI가 그리는 장밋빛 청사진의 이면에는 갖가지 부작용에 대한 우려도 함께 존재한다. 페이스북은 AI 기반 주택광고에서 백인에게는 '매매'를, 유색인종에게는 '월세'를 많이 노출해 인종차별 논란에 시달렸다. 알파고의 구글도 흑인 여성을 고릴라로 태그(Tag)하는 등 편향된 결과를 도출해 AI의 신뢰성과 윤리성 문제가 대두됐다. 보안 측면에서도 음성 모방 보이스 피싱이나 AI 입력 데이터 조작 등 새로운 공격기법이 출현하고 있으며 AI 학습 과정에서 무분별한 개인정보 수집 이슈도 지속적으로 제기되고 있다. AI도 결국 이를 설계한 사람의 통제 하에 있는 만큼 악의적인 의도로 사용될 위험성은 여전하다.
한편 세계 각국은 AI의 부작용을 최소화하고 글로벌 AI 주도권을 확보하기 위해 국가 차원의 각종 정책을 적극 추진 중이다. 미국은 올해 2월 AI 국가전략이 포함된 'AI 리더십 유지 행정명령'을 발표했고 상하원에서는 알고리즘 책임법, AI 윤리 개발결의안이 발의 또는 채택됐다. 유럽연합도 AI 활용 사업자에 대한 규제 및 정보주체의 권리내용 등을 개인정보보호지침(GDPR)에 포함한데 이어 올해 4월에는 AI 서비스 개발시 지켜야할 윤리 가이드라인을 발표했다. 중국은 2017년에 이미 '차세대 AI 발전계획'을 수립하고 정부 차원의 AI 육성 및 관리정책을 시행 중이다. 이러한 국제 사회의 움직임은 주로 AI의 활용 원칙과 윤리 문제, 그리고 관련 보안 이슈 및 개인정보보호 문제를 다루고 있다.
우리나라도 이러한 국제적 논의에 비춰 AI 활성화를 위한 정책적 노력이 시급한 실정이다. AI는 처리결과를 예측할 수 없는 특성이 있어 책임소재 등 법적 불확실성이 상존하며 이는 AI 산업 발전에 큰 저해요소가 되고 있다. 따라서 국가 차원의 정책적 뒷받침을 통해 이러한 불확실성을 신속하게 해소하는 것이 무엇보다 중요하다. AI와 금융서비스의 접목이 활발한 금융권에서도 AI 발전전략이나 윤리 기준, AI 환경에 부합하는 감독, 검사기준이 새로운 보안성 평가기준과 함께 마련될 필요가 있다.
이어령 문화평론가가 AI가 인류를 지배하게 될 것인지에 대해 "인간이 말과 경주를 하면 반드시 진다. 그러나 인간이 말에 재갈을 물리고 그 말에 올라타면 인간이 말을 이긴다"는 의미심장한 말을 한 바 있다. 좋든 싫든 AI는 미래산업의 핵심기술이 될 것이고 계속 발전해 나갈 것이 확실하다. AI라는 말에 올라탈 수 있도록 세계적 추세에 맞춰 관련 정책과 기술을 개발하고 전문 인력을 양성하는 등의 인적, 제도적 인프라를 시급히 구축해야 한다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]