'알파고'배출한 구글 CEO마저 'AI 규제론' 설파한 까닭

[u클린 2020]① 전염병 막는 AI

김지영 디자인기자

# 2010년 5월6일. 미국 증시가 개장 직후 9% 폭락했다. 1조 달러가 증발하는 데엔 5분이 채 걸리지 않았다. 6개월 간의 조사 끝에 찾아낸 원인은 바로 인공지능(AI) 매매시스템의 제어되지 않은 경쟁이었다고 한다.

영국 선물 거래자의 위장거래에 즉각 반응한 AI가 경쟁적으로 대량 매도에 나서면서 주가가 폭락한 것이다. 2013년 국내에서도 비슷한 일이 있었다. 알고리즘 매매 오류에 따른 주문 실수로 단 2분 만에 460억 원의 손실을 입고 증권사가 파산했다. ‘AI 만능론’에 물음표를 던진 사건들이었다.

구글 CEO “AI 글로벌 표준·국제 공조 필요”

순다 피차이 구글 CEO(최고경영자)는 지난 1월 파이낸셜타임스에 ‘구글이 AI 규제가 필요하다고 생각하는 이유(Why Google thinks we need to regulate AI)란 글을 기고했다. 교통혁명을 이끈 내연기관이 많은 사고를 몰고 왔고, 정보혁명을 낳은 인터넷이 허위·가짜 정보 유포에 악용되고 있는 것처럼 AI의 부작용도 필연이라는 것. 이에 대비하기 위한 국제 공조 체제를 마련해야 한다는 내용이 핵심이다. AI 최강자 구글마저 지능정보 사회 핵심 기술의 윤리적 사용과 이용자 보호의 필요성을 강조하고 나선 셈이다.

실제 AI는 인류를 구원할 복음처럼 여겨지지만 부작용에 대한 우려도 만만찮다. AI와 알고리즘이 적용된 제품의 신뢰성에 대한 의문부터 영상합성을 통한 명예훼손과 개인정보 도용, 금융 사기 가능성이 상존한다. 우리 사회에 충격을 안긴 ‘텔레그램 n번방·박사방’ 사건처럼 유명인이나 특정인의 얼굴을 AI 알고리즘으로 정교하게 합성해 음란물 등을 제작·유포하는 ’딥페이크(Deep Fake)‘ 영상물은 전세계의 골치거리로 떠오르고 있다. 미국에선 버락 오바마 전 미국 대통령이 트럼프 대통령을 원색 비난하는 딥페이크 가짜 영상이 논란이 되기도 했다.

순다 피차이 구글·알파벳(구글모기업) 최고경영자(CEO)/사진=AFP

방통위 “AI 활성화, 이용자 권익 보호체계 마련”

AI 윤리 원칙 마련과 규제에 가장 적극적인 곳은 유럽연합(EU)이다. EU 집행위원회는 지난달 빅데이터와 AI를 아우르는 디지털 시대 전략을 공개하면서 “신뢰성 있는 AI의 효율적 사용을 가속화하기 위한 적절한 장려책을 만들겠다”며 안면인식 기술 등의 AI 규제 가능성을 예고했다.

우리 정부도 AI 윤리적 활용을 위한 정책 수립에 나섰다. 방송통신위원회는 지난해 11월 정보통신정책연구원과 함께 투명성·책임성·안전성을 갖춘 사람중심 지능정보 사회의 7가지 기본 원칙을 발표했다. 방통위는 올해 AI 활성화에 따른 이용자 권익 침해를 막기 위해 민관 협의체를 구축하고 이용자 보호 체계를 마련하겠다고도 했다. 국내 기업 중에선 카카오가 지난 2018년 1월 최초로 AI 개발자들이 준수해야 할 규칙을 명문화한 윤리규범을 제정·발표하기도 했다.