이번 사업은 안전하고 건전한 메타버스 서비스 환경을 만들기 위해서 디지털 어뷰징 탐지 및 관리 기술을 개발하고, 이를 메타버스 플랫폼에 적용해서 디지털 어뷰징(욕설, 성희롱, 이상행동 등)을 방지하는 데 그 목적이 있다.
캐리버스는 이번 과제에서 콘텐츠 및 기술 개발을 담당하고 있다. AI를 기반으로 하는 메타보안관 NPC를 개발했고, 해당 NPC를 통해 유저의 텍스트 및 영상 증거를 수집한다. AI 기술을 이용해 채팅 등 대화의 문맥을 이해하고 악성 의도를 정교하게 탐지해 어뷰징을 실시간으로 차단한다. 영상 어뷰징 방지를 위해서는 AI로 아바타 행동 데이터셋을 생성 하고, 데이터셋을 통해 딥러닝 된 모델에 의해 아바타 포즈 추정 및 행위 탐지를 진행해 어뷰징 행위를 차단할 수 있도록 한다.
기술 검증과 시범서비스는 메타버스 플랫폼 '캐리버스'를 통해 진행된다. 연구기관들은 그동안의 성과를 캐리버스에서의 시범 적용 이후 표준화로 추진하며, 실세계에서의 어뷰징 탐지를 위한 안전 AI로 확대한다는 계획이다. AI 보안관은 올 4분기에 적용될 예정이다.
이 시각 인기 뉴스
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']