집정보 털려 도둑 부른 AI 인형

[u클린 2018] ①4차 산업혁명 시대 빛과그늘

#독일 정부는 지난해 4월 어린이용 AI(인공지능) 인형 ‘나의친구 카일라’를 판매 금지했다. 카일라는 음성인식을 통해 어린이가 질문한 내용을 인터넷으로 검색해 답을 해주는 인형이다. 아동과의 대화 내용을 빼내 해커가 집 안에 침입한 사건 때문이다. 독일 통신청은 카일라에 스파이 도구가 탑재돼 있다며 통신법 위반으로 파기 명령 및 판매 중지 조치를 취했다. 독일은 또 위치추적이 가능한 어린이용 스마트워치 판매도 금지했다. 위치정보를 통해 아동 대상 범죄에 이용될 수 있다는 우려 때문이다.

#미국 스탠퍼드 대학교 마이클 코신스키 연구팀은 딥러닝을 이용해 데이트 주선 사이트에 올라온 약 3만5000장의 얼굴 사진을 인식, 동성애자와 이성애자를 판별하는 모델을 개발했다. 남성의 경우 약 91%, 여성의 경우 약 83%의 정확성을 보였는데 소셜 미디어에 공개된 사진을 갖고 동의 없이 성적 취향을 판별한 것에 대해 비윤리성과 사생활 침해 논란이 가열됐다.

인공지능(AI), 빅데이터, 사물인터넷(IoT) 등 4차 산업혁명 기술이 발전하고 네트워크가 고도화되면서 예상치 못했던 사회적, 윤리적 문제들이 속속 등장하고 있다. 5000만명의 페이스북 회원 정보를 대통령 선거전략에 악용한 미국 데이터 스캔들이 대표적이다. 이외에 사이버 폭력, 디지털 성범죄, 차별·혐오 콘텐츠 유통, 가짜뉴스, 개인정보 유출 등 디지털 부작용들이 갈수록 커지고 있다. 정보화 사회 소외되고 있는 계층들, 즉 디지털 디바이드도 해묵은 과제다.

◇해킹된 AI가 집안을 노린다…정보 부익부 빈익빈 뚜렷=최근 인터넷방송을 진행하던 한 BJ(브로드자키)가 방송 도중 투신한 충격적인 사건이 발생했다. 자신의 힘든 상황을 토로하며 자살을 암시한 BJ에 방송을 보던 일부 시청자가 조롱 댓글, 악성 댓글을 달며 일어난 일이다. 1인 인터넷 방송이 인기를 끌고 SNS(소셜미디어네트워크)가 활성화되면서 유명 연예인들 뿐 아니라 일반 개인들에게도 악성 댓글과 사생활 침해, 명예훼손 등에 무방비로 노출되고 있다.

디지털 성범죄도 날로 심각해져 가고 있다. 방송통신심의위원회 지난달 해외 사이트, SNS를 통해 지인 사진을 합성해 음란 사진을 만들어 게재하거나 청소년 조건만남, 성매매 정보 등 불법 게시물 494건을 적발해 접속 차단했다. 음란 합성 게시물은 심각한 성범죄임에도 불구하고 피해자 본인이 인지하기 어렵고 정보 확산이 빨라 자신도 모르는 사이 피해 규모가 커질 수 있다는 지적이다. 방심위에 따르면 지난해 접속 차단한 불법 게시물 가운데 셋 중 하나가 성매매, 음란정보일 정도로 디지털 성범죄가 심각하다.

스마트폰이나 초소형, 위장형 카메라를 이용한 신종 디지털 성범죄도 기승을 부리고 있다. 헤어진 후 앙심을 품고 성행위 동영상을 배포하는 리벤지 포르노가 대표적이다. 또 가정용 IP(인터넷프로토콜) 카메라를 해킹해 몰래 촬영한 영상을 유포하는 행위도 적발됐다. 이 밖에 10대 청소년들의 SNS 왕따, 욕설, 폭언 등 사이버 폭력이나 가짜뉴스, 혐오 ·차별 발언 문제, 인터넷 음란방송 등도 심각한 사회 문제로 대두되고 있다.

AI 등 새로운 기술 발달로 이제까지와 전혀 다른 형태의 사회 문제가 대두될 것이라는 우려도 많다. 앞서 독일 ‘카일라’ 판매 중지 사례 처럼 개인정보 유출을 포함한 AI 기기들의 범죄 악용 가능성이 대표적이다. AI 서버를 해킹한 뒤 이용자에게 엉터리 정보를 알려줄 수 있고, 심지어 AI와 가전제품이 네트워크로 연결돼 있다면 외부에서 이들 가전제품의 오작동을 유발할 수 있다.


디지털 양극화도 더욱 심화될 것으로 지적된다. 한국정보화진흥원(NIA)의 2017년 디지털정보격차실태조사에 따르면 4대 정보취약계층인 장애인, 저소득층, 농어민, 장노년층의 디지털 정보화 수준은 65.1%로 나타났다. 일반인들의 디지털 정보화 수준을 100%으로 뒀을 때 기준이다. 특히 장노년층은 지능정보사회 인지도 조사에서 ‘모른다’는 응답이 83.1%로 ‘알고 있다’(16.9%)보다 약 5배가 많았다.

◇4차산업혁명 시대, u에티켓이 필요한 이유=4차산업혁명 시대 디지털 윤리 교육이 더욱 필요한 이유다. 특히 유아, 청소년기의 디지털 윤리 함양 과정은 필수적이다. 유아, 청소년들은 미성숙한 판단력으로 자극적인 콘텐츠에 빠지기 쉽고 스마트폰, 게임 중독과 같은 문제로 이어지기도 한다.

예컨대 스마트폰에 중독된 ‘스몸비 키즈’에 대한 우려도 있다. 2017년 스마트폰 과의존 실태조사에 따르면 3~9세 유아동의 스마트폰 과의존 비율은 2015년 12.4%에서 2016년 17.9%, 2017년 19.1%로 매년 꾸준히 늘고 있다. 즉 3~9세 유아동 5명 중 1명은 스마트폰 과의존 상태란 얘기다.

윤상필 사이버보안정책센터 연구원은 “해킹, 정보 유출, 사이버테러, 사이버 모욕 등 정보화 역기능이 사회문제로 대두된 지 오래”라며 “인터넷을 비롯한 기술적 혜택을 보다 안전하게 누리기 위해서는 그에 걸맞는 책임감과 규범이 필요하고 사회 구성원의 높은 윤리 수준을 확보해야 한다”고 말했다.