챗GPT
앞서 과기정통부는 2020년 12월 'AI 윤리기준', 2021년 5월 '신뢰할 수 있는 AI 실현전략'을 발표하는 등 사람 중심의 AI 구현을 위한 정책 방안을 수립해 왔다.
'신뢰할 수 있는 AI 실현전략'의 경우, AI윤리기준의 실천 방안을 보다 구체화한 내용이다. '누구나 신뢰할 수 있는, 모두가 누릴 수 있는 AI'를 비전으로 정하고 민간의 AI 제품·서비스 개발, 검증, 인증 단계에 따라 신뢰를 확보할 수 있는 기준을 제시했다. 아울러 과기정통부는 같은 해 11월 기업이 자율적으로 활용할 수 있는 'AI 윤리 자율점검표'와'개발안내서'를 마련했다.
생성AI의 출현으로 인류의 일상에 AI 기술이 더욱 빠르게 확산하고 있는 만큼, AI 윤리원칙의 정립도 변화하는 기술·사회 환경 변화에 맞춰 속도를 내야 한다는 평가다.
이에 과기정통부는 신뢰할 수 있는 초거대·생성형 AI 개발·운영을 목표로 산학연과 머리를 맞대고 있다. 특히 지난달 출범한 'AI 윤리정책 포럼'에는 AI·철학·교육·법·행정 등 분야별 전문가들이 참여해 △편향성과 허위 정보 등에 대응하는 'AI 윤리체계' △신뢰성 및 위험 요소를 기술적으로 확인하는 'AI 검증·인증'' △악용 방지를 위한 'AI 리터러시 교육' 대책을 수립할 계획이다.
이 시각 인기 뉴스
과기정통부는 또 디지털 혁신이 인류 보편 가치를 지향하고 그 혜택을 모든 사회 구성원이 함께 공유하기 위한 공통규범으로 '디지털 권리장전(가칭)'을 올해 하반기까지 마련할 계획인데, AI 윤리정책이 그 핵심 이슈가 될 전망이다. 디지털 권리장전은 지난해 9월 윤석열 대통령이 방미 중 공개한 '뉴욕구상'의 이행 방안이다. 자유·인권·연대라는 인류의 보편적 가치를 지향하는 디지털 혁신을 위해 세계시민이 함께 추구할 '디지털 신질서'를 디지털 선도국가인 한국이 앞장서자는 비전이다.
◆챗GPT 등장에 '윤리' 대신 '속도'…AI 국제규범 필요해
정부는 물론 민간에서도 자발적인 AI윤리원칙을 내놓고 있다. 국내에서는 지난 2020년 차별·혐오 표현으로 논란이 됐던 AI챗봇 '이루다' 사태의 여파였다. 이에 LG전자와 네이버·카카오·SK·KT 등 초거대AI 개발에 나선 기업을 중심으로 각자의 AI 윤리기준을 공개해 왔다. 또 구글과 마이크로소프트(MS) 등 글로벌 빅테크 역시 자체 AI 윤리원칙을 제정해 AI프로젝트 개발에 적용해 왔다.
그러나 민간의 자율 규제를 앞으로도 기대할 수는 없는 형편이다. 오픈AI의 챗GPT 등장 이후 기술 경쟁에서 뒤처졌다는 위기감에 빠진 빅테크들이 '윤리'보다는 '기술 속도전'을 택하는 흐름이 확산하고 있어서다. 실제로 뉴욕타임스는 지난 7일 보도에서 MS와 구글의 전현직 직원 15명과 이들 회사의 내부 문서를 인용, MS는 지난 3월 내부 윤리팀을 해체했으며 구글은 AI 제품 검토 담당 직원들이 '아직 부정확하고 위험한 답변을 생성한다'며 반대했지만 AI챗봇 '바드' 출시를 강행했다고 보도했다.
이에 AI 윤리원칙의 정립을 위한 국제규범 정립 필요성이 제기되고 있다. 이를 위해 내달 19~21일 히로시마에서 열리는 G7 정상회의에서도 'AI 윤리'가 핵심 의제로 등장할 전망이다. 지난 20일 닛케이 등 보도에 따르면, 마쓰노 히로카즈 일본 관방장관은 "AI는 개발, 이용·활용 추진, 적절한 규제 등 3가지 요소 모두 중요하다"며 "G7 의장국으로서 논의를 주도하겠다"고 말했다.
국군 발주 보고서 "급변상황때 AI가 살상…"…中은 뇌와 AI 연결중
(서울=뉴스1) 안은나 기자 = 윤석열 대통령과 김건희 여사가 1일 충남 계룡대 대연병장에서 열린 제74주년 국군의 날 기념행사에 입장하고 있다. (대통령실 제공) 2022.10.1/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.
연구진은 "유사시 의사결정을 최단시간 내 할 수 있는 것이 AI의 장점"이라고 썼다. △기획의 견실성 △구현의 효율성 △작동의 지속성 △데이터의 진실성 등 안전성 확보 목적의 군사용 AI 대상 윤리적 평가·검증 요소도 실렸다.
육군 발주 용역 보고서 일부.
◆軍 보고서에 등장한 LAWS란?…드론 수준 벗어나 교전권·살상권
카구2. /사진제공=STM
카구2는 인명살상용 폭발탄, 건물 파괴용 열압력탄 등으로 무장하고 30분간 비행하면서 목표와 자율적으로 교전할 수 있다. 작년 12월 우리 영공을 침범학 투입된 북한 무인기처럼 배후에서 입력을 받는 대로 움직이는 수준을 넘어선 것이다.만약 카구2가 리비아 내란 과정에서 인간을 실제로 공격했다면 세계 3대 SF 거장으로 불리는 소설가 아이작 아시모프(1920~1992년)가 주창한 '로봇3원칙' 중 첫 번째 원칙 '로봇은 인간에게 해를 입혀서는 안 된다'는 사실상 깨진 격이라는 평가가 나온다.
(서울=뉴스1) = 북한 무인기 여러 대가 26일 군사분계선(MDL)을 넘어 우리 영공을 침입했으며 이중 1대는 서울 시내 상공에 진입했다가 빠져나갔다. 북한 무인기의 우리 영공 침범이 공식 확인된 건 2017년 6월 이후 5년6개월 만이다. 사진은 2017년 6월9일 강원도 인제군 야산에서 발견된 북한 소형 무인기. (뉴스1 DB) 2022.12.26/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.
전문가들은 군사용 AI를 둘러싼 각국의 고민은 크게 두 방향으로 이어질 것으로 본다. 군사용 AI의 자율성을 통제하는 윤리적 기준 수립이 중요하지만 수면 아래에서는 비용을 절감하고 안보 위협에 대응하기 위해 AI 효율 극대화를 연구할 수 있다는 관측이다.
◆"무고한 민간인은 없다" 식으로 AI 무차별 진화할까
2차 세계 대전 당시 미 육군 항공대가 공습한 도쿄. /사진제공=미군
유엔이 2014년 LAWS에 관한 정부전문가그룹(GGE)을 결성하고 2019년 국제인도의 적용, 무기체계 사용결정에 대한 인간의 책임 등 11개 지도원칙을 발표하는 등 논의는 일찌감치 시작됐지만 관련 규범·협약과 관련한 논의가 지지부진하게 흐르고 있다는 분석도 있다. 이는 미국과 중국 등 AI를 활용한 군사 기술 개발에 관심이 높은 국가들이 LAWS 등 AI 규제를 원치 않는 속내이기 때문인 것으로 보인다.
(남중국해 로이터=뉴스1) 권진영 기자 = 17일(현지시간) 미국 제7함대 소속 알레이버크급 유도미사일을 구축한 밀리우스함이 대만해협에서 통과 작전을 수행 중이다. ⓒ 로이터=뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.
국제법 전문가인 심상민 아산정책연구원 연구위원은 lAWS에 적용돼야 할 윤리적 기준에 대해 "국제법 원칙에 부합하는 한도 내에서만 전쟁 수행 행위를 할 수 있도록 사전 프로그래밍을 할 수 있게 하고 규제하는 정책을 미리 마련하는 것이 국가, 정부, 군 당국의 역할"이라며 "입법이나 교전 수칙 등에서 제도화가 필요할 것"이라고 말했다. 심 연구위원은 LAWS를 활용한 전쟁수행은 책임 소재와 관련한 논란에서 자유로울 수 없을 것이라고 지적했다.