인공지능(AI) 챗봇 '그록'이 생성하는 성적인 딥페이크 이미지 문제로 인도네시아와 말레이시아 정부가 해당 서비스 접근을 차단하는 강경 조치에 나섰다.
인도네시아와 말레이시아 관리들은 엑스에이아이(xAI)의 챗봇 그록에 대한 접근을 일시적으로 차단한다고 밝혔다. 이는 사용자들이 소셜 네트워크 엑스(X)에서 요청하면 그록이 실제 여성과 미성년자를 묘사하거나 폭력성을 담은 성적인 AI 생성 이미지를 쏟아낸 데 대한 가장 공격적인 정부 차원의 대응이다. 엑스와 엑스에이아이는 같은 회사에 속해 있다.
메우탸 하피드(Meutya Hafid) 인도네시아 통신디지털부 장관은 가디언 등 복수 매체에 보낸 성명에서 "정부는 비동의 성적 딥페이크 관행을 디지털 공간에서 시민의 인권, 존엄성, 안보에 대한 심각한 침해로 간주한다"고 밝혔다. 인도네시아 통신디지털부는 이 문제를 논의하기 위해 엑스 관계자들을 소환한 것으로 알려졌다.
뉴욕타임스는 말레이시아 정부 역시 일요일 비슷한 금지 조치를 발표했다고 전했다.
지난 한 주간 각국 정부의 대응은 다양했다. 인도 IT부는 엑스에 그록이 음란물을 생성하지 못하도록 조치를 취하라고 명령했으며, 유럽연합 집행위원회는 엑스에 잠재적인 조사를 대비해 그록과 관련된 모든 문서를 보관하라고 지시했다.
영국에서는 통신규제기관인 오프콤(Ofcom)이 "조사가 필요한 잠재적 규정 준수 문제가 있는지 판단하기 위해 신속한 평가에 착수할 것"이라고 밝혔다. 키어 스타머(Keir Starmer) 총리는 오프콤이 "조치를 취하는 데 있어 전폭적인 지지를 보낸다"고 인터뷰에서 말했다.
미국에서는 트럼프 행정부가 이 문제에 대해 침묵을 지키고 있는 것으로 보이지만(엑스에이아이 CEO 일론 머스크는 트럼프의 주요 기부자이며 지난해 논란이 된 정부효율성부를 이끌었다), 민주당 상원의원들은 애플과 구글에 앱 스토어에서 엑스를 삭제할 것을 촉구했다.
엑스에이아이는 초기에 그록 계정에 1인칭 시점의 사과문을 게시하며, 한 게시물이 아동 성 학대물과 관련된 "윤리적 기준과 잠재적인 미국 법률을 위반했다"고 인정했다. 이후 AI 이미지 생성 기능을 엑스의 유료 구독자에게만 제한했지만, 이 제한은 그록 앱 자체에는 영향을 미치지 않아 누구나 이미지를 생성할 수 있었다.
영국 정부가 다른 AI 이미지 생성 도구에 대해 조치를 취하지 않는 이유를 묻는 게시물에 대해, 머스크 CEO는 "그들은 검열을 위한 어떤 변명이라도 원한다"고 썼다.
헬로티 |
