마이크로소프트(Microsoft)와 노스웨스턴 대학교(Northwestern University), 비영리 단체 위트니스(WITNESS) 연구팀이 생성형 AI로 제작된 미디어의 딥페이크 탐지 시스템 강화를 위한 새로운 데이터셋인 'MNW 딥페이크 탐지 벤치마크'를 공개했다. 이 데이터셋은 현재의 AI 생성 환경을 최대한 반영하는 다양한 AI 생성 미디어 샘플을 포함하고 있으며, 딥페이크 탐지 기술의 발전을 목표로 한다. 최근 생성형 AI 기술의 발전은 딥페이크 콘텐츠의 확산을 가속화하며 사회적 문제로 대두되고 있다. 기존 딥페이크 탐지 시스템은 특정 유형의 조작에만 효과적이거나, 빠르게 진화하는 생성형 AI 기술에 뒤처지는 경향이 있었다. AIDEN 편집팀은 이번 MNW 데이터셋이 이러한 한계를 극복하고, 보다 견고하고 범용적인 딥페이크 탐지 모델 개발에 중요한 기반을 제공할 것으로 평가한다. 이 데이터셋은 연구자들이 실제와 같은 다양한 딥페이크 시나리오를 학습하고 평가할 수 있도록 지원함으로써, 탐지 기술의 정확도와 신뢰도를 높이는 데 기여할 전망이다. 궁극적으로는 가짜 정보 확산을 방지하고 디지털 미디어의 신뢰성을 확보하는 데 중요한 역할을 할 것으로 기대된다. 이는 AI 윤리 및 안전성 측면에서도 긍정적인 영향을 미칠 것이다. 출처: https://spectrum.ieee.org/deepfake-detector-microsoft-generative-ai