유튜브가 자사 플랫폼에 올라오는 인공지능(AI) 생성 딥페이크 영상에 대응하기 위해, 정치인과 언론인을 대상으로 얼굴 유사성 감지 도구를 확대 도입하고 있다.
미국 IT 매체 더 버지(The Verge)에 따르면, 유튜브는 공직자와 언론인이 유튜브에서 자신을 본뜬 AI 생성 딥페이크 영상을 추적할 수 있도록 돕는 ‘유사성 감지(likeness detection)’ 기능을 관련 인사들에게 제공할 계획이다.
더 버지는 이 도구가 이미 수백만 명의 유튜브 콘텐츠 제작자에게 제공되고 있으며, 3월 10일(현지 시간)부터는 언론인, 정부 관계자, 정치 후보자 등으로 이른바 ‘파일럿 그룹’을 확대한다고 전했다. 유튜브는 기자들과의 비공개 브리핑에서 이 파일럿 그룹에 누가 포함됐는지, 도널드 트럼프가 포함됐는지 여부 등 구체적인 명단 공개는 거부했다.
유사성 감지 기능은 저작권 보호를 위해 플랫폼 전역을 스캔하는 ‘콘텐츠 ID(Content ID)’와 유사한 방식으로 작동하지만, 저작권 자료 대신 사람의 얼굴을 탐지한다. 일치하는 얼굴이 발견되면 프로그램에 등록된 개인에게 해당 콘텐츠가 알려지고, 당사자는 유튜브에 해당 영상을 삭제해 달라고 요청할 수 있다.
다만 유튜브는 모든 삭제 요청이 승인되는 것은 아니라고 밝혔다. 삭제 여부는 유튜브 개인정보 보호 정책에 따라 결정되며, 패러디나 풍자와 같은 일부 콘텐츠는 예외로 남겨둘 수 있다.
레슬리 밀러(Leslie Miller) 유튜브 공공정책·정부정책 담당 부사장은 “유튜브는 패러디, 풍자, 정치적 비판을 포함해 표현의 자유를 보호해 온 오랜 역사를 갖고 있다”며 “세계 정상에 대한 영상이 명백한 패러디라면 플랫폼에 그대로 남게 될 가능성이 크다”고 말했다. 밀러 부사장은 또 “우리는 검증된 개인정보 보호 가이드라인에 따라 모든 삭제 요청을 평가해, 우리가 보호하려는 시민적 담론 자체를 억누르지 않도록 하고 있다”고 설명했다.
프로그램에 참여하려면 개별 인물은 자신의 영상과 정부 발급 신분증을 제출해야 한다. 유튜브는 이 데이터가 유사성 감지 기능에만 사용되며, 참가자는 언제든 프로그램에서 탈퇴하고 데이터 삭제를 요청할 수 있다고 밝혔다.
암자드 하니프(Amjad Hanif) 유튜브 크리에이터 제품 부문 부사장은 지금까지 크리에이터들이 이 정책에 따라 실제로 삭제를 요청한 콘텐츠의 양은 “실제로 매우 적다”고 말했다. 하니프 부사장은 “크리에이터들은 일치 사례를 많이 보지만, 상당수는 단지 어떤 콘텐츠가 만들어졌는지 인지하는 수준에 그친다”며 “실제 삭제 요청의 양은 매우, 매우 낮은데, 대부분의 콘텐츠가 비교적 무해하거나 이들의 전체 비즈니스에 도움이 되는 경우가 많기 때문”이라고 설명했다.
하니프 부사장은 정치인 등 다른 집단은 이를 동일하게 보지 않을 수 있다고 언급하면서도, 향후 AI 생성 딥페이크 콘텐츠에 대해 수익 창출을 허용하는 방안을 열어둘 수 있음을 시사했다. 그는 “업계에서 그런 것을 허용하길 원하는 이들이 있을 수 있고, 이는 우리가 투자하고 오랜 경험을 갖고 있는 분야”라고 말했다.
더 버지에 따르면, 유튜브와 다른 플랫폼들은 최근 수년간 실제 아티스트를 모방한 AI 음성 합성 음악이 쏟아지는 데 대응하는 것에서 출발해 AI 생성 콘텐츠 처리 방안을 두고 계속 고민해 왔다. AI 딥페이크 문제는 유명인, 언론인, 정치인뿐 아니라 일반 개인에게도 영향을 미치는 사안이지만, 하니프 부사장은 전 세계 모든 사람을 유사성 감지 기능에 포함하는 것은 향후 계획에 “아마도” 포함되지 않는다고 말했다
헬로티 |
