이종호 과학기술정보통신부 장관(앞줄 왼쪽부터 4번째)과 고학수 개인정보보호위원회 위원장(앞줄 왼쪽부터 5번째)이 25일 오전 서울 강서구 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화' 에서 기념촬영 하고 있다. / 사진제공=과학기술정보통신부
과학기술정보통신부는 25일 서울 마곡동 LG사이언스파크에서 열린 '제4차 인공지능 최고위 전략대화'에서 이같은 내용이 논의됐다고 밝혔다. 이날 행사에는 이종호 과기정통부 장관, 고학수 개인정보보호위원회 위원장과 네이버(NAVER (174,800원 ▼3,200 -1.80%)), SK텔레콤 (54,200원 ▲100 +0.18%), KT (38,650원 ▲700 +1.84%), 카카오 (39,800원 ▼750 -1.85%), LG AI 연구원 등 초거대 AI기업 및 이스트소프트 (15,200원 ▼80 -0.52%), 제이엘케이 (14,250원 ▼850 -5.63%), 셀렉트스타, 스냅태그, 코난테크놀로지 (16,500원 ▼100 -0.60%) 등 AI 솔루션 기업의 대표들이 참여했다.
과기정통부는 이날 '인공지능 윤리·신뢰성 확보 추진계획'을 발표하며 11월까지 신뢰성 벤치마크 데이터를 구축해 12월에는 이를 기준으로 생성형 AI 기업의 초거대 AI 모델에 대한 신뢰성 평가에 나서겠다고 밝혔다. 편향·차별적 내용의 콘텐츠가 생성되는지, 허위 정보를 생성하는 환각 현상이 심하지 않는지, 저작권 침해가 심각하지 않은지, 비윤리적 응답을 유도하는 행위에 대한 가이드가 제대로 제공되는지 등에 대한 기준을 만들고 기존 공개됐거나 공개될 예정인 초거대 AI 모델의 적합성 여부를 판별하겠다는 것이다.
이날 참가한 기업들은 AI 생성물에 대한 가시적 워터마크 도입 필요성에 공감하고 기술적 완성도를 고려해 자사 서비스에 워터마크를 단계적으로 적용하는 데 동의했다. 또 AI 윤리교육 및 전문인력의 필요성, AI 윤리·신뢰성 표준 제정 중요성 등에 대해서도 의견을 나눴다.
이종호 과기정통부 장관은 "AI는 디지털 심화 시대의 핵심기술로서 AI의 신뢰성과 안전성을 확보하기 위한 노력이 무엇보다 중요하다"며 "민간 자율 인공지능 신뢰성 검·인증 지원을 비롯한 인공지능 윤리 생태계 기반 조성과, 적합한 규제 체계를 정립해가는 데 힘쓰고, 관계부처와 함께 인공지능 윤리·신뢰성을 확보할 수 있는 정책방안을 보완해 새로운 디지털 질서의 모범을 보이도록 최선을 다하겠다"고 했다.
이 시각 인기 뉴스
고학수 개인정보위원장도 "과기정통부, 기업들과 긴밀히 소통해 우리 여건과 국익에 부합하는 방향으로 (AI 규제 관련) 국제 논의를 주도하는 데 역량을 집중할 것"이라며 "기업들도 이용자가 신뢰할 수 있는 AI환경을 조성하는 데 적극 투자해 AI 리스크 최소화, 투명성 확보에 노력해 달라"고 당부했다.