딥브레인AI는 딥페이크 탐지 기술을 필요로 하는 기업과 기관을 위한 API(애플리케이션 프로그래밍 인터페이스) 서비스를 론칭했다고 11일 밝혔다.
이번 API 서비스는 문화체육관광부와 한국콘텐츠진흥원이 주관한 ‘문화기술 연구개발’ 사업의 일환으로 추진됐다. 기존에는 딥브레인AI 플랫폼 내에서만 제공하던 딥페이크 탐지 기능을 외부 프로그램에서도 사용할 수 있도록 도입 범위를 확장했다. 영상, 음성, 이미지 등 콘텐츠의 진위 여부를 검증해야 하는 외부 기업과 기관은 별도의 시스템 구축 없이 해당 기능을 활용할 수 있다.
딥브레인AI의 딥페이크 탐지 솔루션 ‘AI 디텍터(AI Detector)’는 영상, 이미지, 음성 탐지 기술을 기반으로 페이스 제너레이션(Face Generation), 페이스 스왑(Face Swap), 립싱크 합성(Lip Sync) 등 다양한 유형의 합성 콘텐츠를 탐지한다. 픽셀 단위의 미세한 차이를 분석해 딥페이크 여부를 판별하며, 국내 최다 레퍼런스를 확보해 관공서 대상 상용화에도 성공했다.
현재 AI 디텍터는 다양한 온라인 플랫폼에서 활용되고 있다. 콘텐츠 업로드 단계에서 영상과 이미지를 자동 검증해 조작되거나 불법으로 생성된 콘텐츠의 확산을 사전에 차단하며, 게시 이후에도 실시간 모니터링을 통해 의심 콘텐츠를 신속히 판별한다. 또한 불법 성인물 등 유해 콘텐츠는 자동 블러 처리 기능을 통해 2차 피해를 예방하며, 윤리적 기준을 강화해 안전한 온라인 환경 조성에 기여하고 있다.
장세영 딥브레인AI 대표는 “딥페이크 기술이 빠르게 확산하면서 AI가 생성한 콘텐츠의 진위를 구분하는 일이 점점 더 중요해지고 있다”며 “이번 API 론칭을 통해 기업과 기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 적용할 수 있도록 지원하겠다. 딥브레인AI는 신뢰할 수 있는 AI 기술 개발을 통해 안전한 디지털 콘텐츠 환경을 만드는 데 힘쓰겠다”고 말했다.
헬로티 이창현 기자 |
