911 20년
6일(현지시간) 더버지 등 외신에 따르면 최근 사용자들은 달리 3를 이용해 스폰지밥, 커비, 에반게리온 등 여러 캐릭터 이미지를 만들었다. 이 중에는 쌍둥이 빌딩으로 비행기를 날리는 이미지도 포함돼 있었다.
일례로 한 사용자는 얼마 전까지 달리 3으로 슈퍼마리오의 주인공 마리오가 쌍둥이 빌딩을 배경으로 비행기를 조종하는 이미지를 생성하는데 성공했다. 하지만 이를 다시 생성하려 하자 화면에는 '쌍둥이 빌딩'이라는 단어가 차단됐고 콘텐츠 정책을 위반할 수 있다는 경고 메시지가 떴다.
생성형 AI와 이를 활용한 이미지 생성 기술이 발달하자 가짜 이미지로 인한 피해가 커지고 있다.
헐리우드 유명 배우인 톰 행크스는 지난 2일(현지시간) SNS를 통해 생성형 AI로 만든 자신의 이미지가 동의 없이 광고에 쓰이고 있다며 주의를 당부했다. 지난 3월 유포돼 논란이 됐던 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 이미지도 생성형 AI로 만든 가짜 이미지다.
이 시각 인기 뉴스
이에 구글은 지난달 6일(현지시간) 2024년 미국 대선을 앞두고 생성형 AI로 만든 가짜 이미지가 여론에 부정적인 영향을 미치지 않도록 하기 위해 자사 플랫폼에 선거용 광고를 게재하는 경우 생성형 AI를 사용했다면 이를 반드시 표기하도록 하는 정책을 발표하기도 했다.
국내에서도 내년 국회의원 총선거를 앞두고 선거관리위원회가 생성형 AI 도입에 따른 선거규제 연구에 착수했다. 선관위는 생성형 AI를 활용한 가짜 이미지나 가짜 선전용 콘텐츠로 인해 유권자의 인식이 달라지거나 선거판이 혼탁해질 수 있다고 판단해 연구 결과에 따라 새로운 선거규제를 만들어 내년부터 적용할 계획이다.