이는 AI 시대 이용자의 권리와 이익이 충분히 보호될 수 있도록 정부·기업·이용자 등 구성원들이 함께 지켜가야 할 기본적인 원칙으로 주요 기업과 분야별 전문가들이 자문에 참여했다.
최근 맞춤형 뉴스·콘텐츠 추천시스템, AI 스피커, AI 면접 등 인간의 의사결정을 보조하거나 대체하는 혁신적인 서비스가 확산되면서 공정하고 책임있는 AI 알고리즘의 중요성이 더욱 커져가고 있다. 특히 유렵연합(EU), 경제협력개발기구(OECD) 등 국제사회에서도 신뢰가능한 AI를 위한 가이드라인·권고안 등을 잇달아 발표하고 있다.
이용자 원칙의 가장 최우선은 사람을 중심으로 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이뤄져야 한다는 점이다.
또 지능정보서비스가 이용자에게 중대한 영향을 끼칠 경우 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 한다.
뿐만 아니라 이용자 기본권에 피해를 유발했을 때는 예측, 추천, 결정의 기초로 사용한 주요 요인을 설명할 수 있어야 한다.
이와함께 지능정보서비스가 사회적·경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고 알고리즘 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력해야 한다.
아울러 지능정보서비스의 개발, 공급, 이용 등 과정에서 개인정보 및 프라이버시를 보호해야 하고 구성원들은 기술의 향유와 프라이버시 보호 사이의 균형을 위해 지속적인 의견 교환에 참여한다는 점도 원칙에 포함됐다.
한편 이와 관련해 한상혁 방통위 위원장은 최근 기자간담회를 통해 ""AI 등 신기술은 미래 먹거리라는 얘기까지 나오지만 역기능으로 이용자 문제가 필연적으로 뒤따를 수 있다”며 “이용자 보호 원칙 마련을 위해 지능정보사회 이용자보호 정책센터를 설치해 운영할 계획”이라고 밝힌 바 있다.