AI가 차별 키울라…인권위, 인권침해·차별금지 가이드라인 제시

국가인권위원회. /사진=뉴스1

국가인권위원회가 인공지능(AI) 개발·활용 과정에서 발생할 수 있는 인권침해와 차별을 방치하기 위해 가이드라인을 제시했다.

인권위는 국무총리에게 '인공지능 개발과 활용에 관한 인권 가이드라인'에 기초해 인공지능 관련 정책이 수립·이행되고, 관계 법령이 제·개정되도록 관련 부처들을 유기적으로 조정하고 통할할 것을 권고했다고 17일 밝혔다.

인권위가 제시한 가이드라인은 △인간의 존엄성·개인의 자율성과 다양성 보장 △투명성과 설명 의무 △자기결정권의 보장 △차별금지 △인공지능 인권영향평가 시행 △인공지능 위험도 등급 구분과 관련 법·제도 마련 등이 골자다.

인권위는 가이드라인에서 "인공지능은 인간으로서의 존엄과 가치 및 행복을 추구할 권리에 부합하는 방향으로 개발·활용돼야 하며, 개인의 선택과 판단 및 결정을 강요하거나 자율성을 침해해서는 안 된다"며 "인공지능의 결정이 특정 집단이나 일부 계층에 차별적이거나 부당한 영향을 초래하지 않고 개인의 안전이나 권리에 차별적 영향을 미치지 않도록 필요한 조치를 해야 한다"고 밝혔다.

인공지능 기술은 고용·금융·행정·복지 등 사회 전반에 걸쳐 인간의 기본적인 삶과 인권에 영향을 미치고 있는데, 그 영향을 받는 당사자들은 인공지능의 도입·운영·결정 과정에서 의견제시나 참여의 기회를 보장받지 못하고 있다는 지적이 나온다.

인권위는 "인공지능에 의해 인권침해나 차별이 발생한 경우에도 효과적인 권리구제를 받을 수 있는 절차와 방법이 미흡한 상황"이라며 "인권적 관점에서 인공지능의 개발·활용 시 준수해야 할 기준을 마련할 필요가 있다고 보고 관련 내용을 검토했다"고 밝혔다.

국제사회는 인공지능 때문에 발생할 수 있는 문제를 예방하기 위한 제도와 지침을 개발하고 있다. 유엔은 인공지능 활용 시 인권보호 장치를 마련하도록 여러 차례 권고했다. 유럽연합은 안면인식 인공지능 시스템 활용 금지, 인공지능 면접 시스템에 대한 고위험 등급 부과, 위험단계에 따른 규제수준 설정 등을 주요 내용으로 하는 '인공지능법' 초안을 공개했다.

인권위는 "이번 가이드라인을 통해 인공지능 기술의 개발과 활용 전 과정에서 인권적 가치가 보호되는 계기가 마련되기를 기대한다"고 밝혔다.