마이크로소프트는 18일 '애저 AI 콘텐츠 세이프티'(Azure AI Content Safety)를 출시해 안전한 온라인 환경과 콘텐츠를 만드는, 책임있는 AI 생태계 확장에 나설 것이라며 이같이 밝혔다.
애저 AI 콘텐츠 세이프티는 지난 5월 연례 개발자 컨퍼런스인 '마이크로소프트 빌드' 행사에서 애저 오픈AI 서비스의 일부로 소개된 바 있고 이번에 공식 출시됐다. 애저 AI 콘텐츠 세이프티는 독립적 실행이 가능한 시스템으로 오픈 소스 모델과 여타 모델에서 생성된 AI 콘텐츠에도 적용할 수 있다.
애저 AI 콘텐츠 세이프티는 고객의 사용 목적과 사례에 맞춰 세분화된 검수 기능을 지원한다. 예를 들어 게임에 중점을 둔 플랫폼이 학생 교육용 콘텐츠를 제작할 경우 폭력성, 유해성에 대한 언어 표현 수준을 다르게 설정할 수 있다.
생성 AI의 잠재적인 위협 증가에 대응하기 위한 방안도 마련한다. 마이크로소프트는 고객 피드백을 적극 반영하며 기술 고도화에 주력하고 있다. 특히 멀티모달 모델(multimodal model) 관련 지속적인 연구를 통해 불쾌감을 유발할 수 있는 이미지, 텍스트 등의 창작물 감지 기능도 강화할 예정이다.
에릭 보이드(Eric Boyd) 마이크로소프트 AI 플랫폼 담당 기업 부사장은 "이미 많은 기업들이 생성형 AI의 가치와 역량을 경험하기 시작했다"며 "이런 상황에서 마이크로소프트는 애저 AI 콘텐츠 세이프티를 통해 더욱 다양한 비즈니스 요구 사항을 가진 고객들에게 보다 안전한 생성형 AI 사용 환경을 지원할 수 있을 것으로 기대한다"고 했다.