유럽연합이 소셜미디어 플랫폼 엑스에 도입된 인공지능 그록을 통해 불법 딥페이크와 아동 성착취물이 확산됐는지 여부에 대한 공식 조사에 착수했다.
IT 매체 엔가젯(Engadget)에 따르면 유럽연합 집행위원회는 그록을 포함한 엑스(X)를 대상으로, 아동 성착취물(CSAM)을 포함한 인공지능 생성 성적 노출 이미지 유포를 막기 위한 조치를 취하지 않았는지 조사에 들어갔다고 보도했다.
집행위원회는 보도자료에서 이번 조사가 유럽의 디지털서비스법(DSA·Digital Services Act) 위반 여부를 가리기 위한 것으로, 위반이 확인될 경우 엑스를 상대로 추가 집행 조치가 내려질 수 있다고 밝혔다. 최근 엑스는 디지털서비스법 위반으로 1억2천만 유로(1억4천만 달러)의 벌금을 부과받은 바 있다.
헨나 비르쿠넨(Henna Virkkunen) 집행위원회 상임부위원장은 성명에서 “여성과 아동에 대한 성적 딥페이크는 폭력적이고 용납될 수 없는 굴욕의 형태”라며 “이번 조사를 통해 엑스가 디지털서비스법상 법적 의무를 이행했는지, 아니면 여성과 아동을 포함한 유럽 시민의 권리를 자사 서비스의 부수적 피해로 취급했는지를 규명할 것”이라고 말했다.
집행위원회는 엑스가 플랫폼에 그록을 도입할 때 불법 콘텐츠 확산 위험을 줄이기 위한 조치를 취했는지 여부를 점검할 계획이라고 밝혔다. 여기에는 아동 성착취물에 해당할 수 있는, 조작된 성적 노출 이미지를 포함한 콘텐츠가 포함된다.
집행위원회는 이런 위험이 이미 현실화된 것으로 보이며, 이로 인해 유럽연합 내 시민들이 심각한 피해에 노출됐다고 평가했다.
이번 새 조사와 더불어 집행위원회는 2023년에 착수한 엑스에 대한 별도 조사도 확대하고 있다. 해당 조사는 엑스의 추천 알고리즘과 불법 콘텐츠 확산 방지 도구의 적절성 여부를 다루고 있다.
미국 방송사 CBS 뉴스(CBS News)는 1월 26일(현지 시간) 기준으로 그록이 여전히 개인의 옷을 벗긴 이미지를 생성할 수 있는 상태였다고 전했다. 엑스는 이전에 무료와 유료 사용자 모두에 대해 이 기능을 제거했다고 주장한 바 있다.
엔가젯은 이번 조사가 유럽이 미국 기술기업을 상대로 한 규제를 강화하는 미묘한 시점에 이뤄지고 있다고 전했다. 보도에 따르면 유럽은 이미 미국 측의 비판을 받는 상황에서, 엑스 소유주이자 플랫폼에서 가장 큰 영향력을 가진 인물인 일론 머스크(Elon Musk)와도 정면으로 마주하게 됐다.
머스크는 엑스가 디지털서비스법 위반으로 1억2천만 유로(1억4천만 달러) 벌금을 부과받은 뒤, 유럽연합을 ‘제4제국(the fourth Reich)’이라고 부르며 폐지돼야 한다고 엑스에 게시했다.
이번 조사와 관련해 엑스 대변인은 그동안 그록과 관련해 밝힌 입장을 재확인했다. 대변인은 미국 일간지 뉴욕타임스(The New York Times)에 “엑스는 모두에게 안전한 플랫폼이 되기 위해 계속 노력하고 있으며, 모든 형태의 아동 성착취, 동의 없는 노출, 원치 않는 성적 콘텐츠에 대해서는 무관용 원칙을 유지하고 있다”고 말했다.
엔가젯은 1월 26일(현지 시간) 오전 11시42분 기준으로 CBS 보도를 추가 반영하는 업데이트를 했다고 전했다.
헬로티 |
