그는 "2045년에 '초인공지능'(ASI·Artificial Super Intelligence)이 실현될 것이며 이 ASI가 인류를 멸망으로 이끌 것"이라고 말한다. "목적을 달성하기 위해 모든 수단을 동원하는 비윤리적인 인공지능은 여태까지 인간이 점유해왔던 모든 산업기반과 자원을 지배할 것이며 그 과정에서 우리의 신체마저도 이용할 수 있는 원자로 여길 수 있다"는 설명이다.
그의 비관적인 전망을 담은 책 '파이널 인벤션'은 배럿이 2000년부터 인공지능 개발자 등을 만나 인터뷰한 결과물이다. SF작가 아서 C.클라크부터 발명가 레이 커즈와일, 로봇공학의 선구자 로드니 브룩스 등을 만났고 각종 영상과 저작물, 미공개 자료까지 섭렵했다.
저자는 현재 미국 내 인공지능 개발자와 이론가들이 어떠한 태도로 인공지능 개발에 임하는지, 인공지능의 논리와 윤리가 얼마나 박약한지 꼬집는다. 인공지능이 가져올 미래에 대한 충분한 논의나 통제 장치 없이 기술 개발 경쟁에 휩쓸리다 보니 위험성을 외면하고 있다는 것.
또 미국 국방부와 같이 현재 인공지능 개발에 가장 많은 투자를 하는 기관이 기술을 어떻게 악용할 수 있는지, 비윤리성을 지닌 기업의 상업적 논리와 만났을 때 얼마나 무모하게 사용될 수 있는지 경고한다.
현재 발생하는 사이버 범죄에도 취약한 인류가 스스로 발전하는 인공지능을 통제하지 못하는 한계에 직면할 때 인류는 정복당할 수 있다. 저자는 막연한 환상을 품을 것이 아니라 바로 이러한 위험성을 인지해야 한다고 강조한다. 그는 "가장 필요하고 가장 중요한 점은 인공지능의 위협에 대해 일상적인 대화가 가능하도록 만드는 것"이라고 했다.
2013년 출간된 이 책은 인공지능의 비관적 미래를 예견하는 데닉 보스트롬의 '슈퍼 인텔리전스'와 함께 가장 많이 언급되는 책이다.
대표적인 미래학자로 이 책을 번역한 정지훈 경희사이버대 교수는 "아직도 저자의 시각이 지나치게 극단적이고 비관적이라고 생각한다"면서도 "인공지능에 대해 지나치게 장밋빛 환상을 가지거나 인공지능의 한계만을 부각하는 시각을 가진 사람들에게 다른 관점을 제시한다는 점에서 꼭 읽어볼 만한 책"이라고 했다.
스티븐 호킹은 "AI는 인류보다 빠르게 진화할 수 있는 잠재력을 갖추었으며 AI가 스스로 진화할 수 있는 단계가 왔을 때 그들이 우리 인류와 같은 목표를 지니고 있을지는 확신할 수 없다"고 경고한 바 있다.
인공지능이 가져올 미래가 궁금하다면 혹은 인공지능이 지닌 양면성을 알고싶다면 막연한 환상이나 두려움을 품기보다 현재 인공지능 개발의 최전방에 서 있는 사람들의 이야기를 들어보는 것은 어떨까. '파이널 인벤션'은 좋은 가이드가 돼줄 것이다.
◇ 파이널 인벤션-인공지능, 인류 최후의 발명=제임스 배럿 지음. 정지훈 옮김. 동아시아 펴냄. 448쪽/1만 8000원.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]