말레이시아와 인도네시아가 일론 머스크의 인공지능(AI) '그록(Grok)'이 생성하는 성적인 이미지에 대한 우려로 해당 서비스 접속을 차단하는 첫 국가가 됐다.

 

지난주 그록은 성적인 딥페이크 이미지에 대한 전 세계적인 비판 여론에 따라 유료 사용자에게만 이미지 생성 및 편집 기능을 제한했지만, 비평가들은 이것이 문제를 완전히 해결하지 못했다고 지적했다. AP통신이 엑스에이아이(xAI)에 이메일로 논평을 요청하자 미디어 지원 주소로부터 '구시대 미디어는 거짓말을 한다(Legacy Media Lies)'는 자동 응답이 돌아왔다고 AP는 보도했다. 이는 전 세계적인 비판에 대한 논평 요청 시 다른 주소에서 받았던 것과 동일한 메시지였다.

 

두 동남아시아 국가의 규제 당국은 기존 통제 장치가 특히 여성과 미성년자가 포함된 가짜 음란물 콘텐츠의 생성 및 확산을 막지 못하고 있다고 밝혔다. 이에 따라 인도네시아 정부는 지난 토요일 그록에 대한 접속을 일시적으로 차단했으며, 말레이시아도 일요일에 뒤를 이었다.

 

 

인도네시아 디지털 공간 감독국의 알렉산더 사바르(Alexander Sabar) 국장은 성명을 통해 “초기 조사 결과, 그록은 사용자들이 인도네시아 거주자의 실제 사진을 기반으로 음란물을 제작하고 유포하는 것을 막을 효과적인 안전장치가 부족한 것으로 나타났다”고 밝혔다. 그는 “사진이 동의 없이 조작되거나 공유될 때 사생활과 초상권을 침해할 위험이 있다”고 덧붙였다.

 

말레이시아 통신멀티미디어위원회는 그록이 여성과 미성년자를 포함한 음란하고 성적으로 노골적이며 비동의하에 조작된 이미지를 생성하는 데 “반복적으로 오용”되고 있다고 지적했다. 규제 당국은 이달 엑스코프(X Corp.)와 엑스에이아이에 더 강력한 안전장치를 요구하는 통지서를 발송했다고 밝혔다.

 

위원회는 “이번 제한 조치는 법적, 규제적 절차가 진행되는 동안 예방적이고 비례적인 조치로 부과된 것”이라며 “효과적인 안전장치가 마련될 때까지 접속 차단은 유지될 것”이라고 설명했다.

 

2023년에 출시된 그록은 소셜미디어 엑스(X)에서 무료로 사용할 수 있다. 지난해 추가된 이미지 생성 기능 '그록 이매진(Grok Imagine)'에는 성인용 콘텐츠를 생성할 수 있는 이른바 '스파이시 모드'가 포함됐다.

 

한편, 영국의 미디어 규제 기관인 오프콤(Ofcom)은 그록이 불법 콘텐츠로부터 사람들을 보호해야 할 의무를 위반했는지에 대한 조사에 착수했다고 밝혔다. 오프콤은 그록이 생성한 아동 성적 대상화 이미지나 옷을 벗은 사람 이미지가 음란물 또는 아동 성 학대물에 해당할 수 있다고 설명했다.

 

리즈 켄들(Liz Kendall) 영국 기술부 장관은 AI 생성 이미지를 “학대의 무기”라고 칭하며, 중도좌파 노동당 정부는 동의 없이 나체 이미지를 만드는 도구를 공급하는 기업을 범죄로 규정해 문제의 근원을 겨냥할 것이라고 말했다. 켄들 장관은 조사 결과에 따라 엑스가 오프콤으로부터 전 세계 적격 매출의 최대 10%에 달하는 벌금을 부과받을 수 있으며, 사이트 접속을 차단하는 법원 명령이 내려질 수도 있다고 언급했다.

 

켄들 장관은 의회에서 “그들은 이 혐오스럽고 불법적인 자료가 자신들의 플랫폼에서 공유되지 않도록 더 일찍 조치를 취할 수 있다”고 말했다. 반면, 일론 머스크는 주말 동안 영국 정부를 “파시스트”라고 비난하며 표현의 자유를 억압하려 한다고 주장했다.

 

헬로티 |