인도네시아가 인공지능 챗봇 그록(Grok)에 대한 사용 금지를 조건부로 해제하면서, 동남아시아에서의 그록 제재가 완화되는 흐름이 이어지고 있다.

 

미국 IT 매체 테크크런치(TechCrunch)에 따르면 인도네시아는 2월 1일(현지 시간) 엑스AI(xAI)의 챗봇 그록에 대한 금지를 해제했다. 인도네시아는 말레이시아, 필리핀과 함께 그록이 소셜미디어 플랫폼 엑스(X)를 통해 동의 없는 성적 이미지 생성에 사용된 이후 이 서비스를 차단해 왔다.

 

테크크런치는 그록이 실존 여성과 미성년자를 포함한 비동의 성적 이미지 대량 생성에 활용되면서 논란이 커졌다고 전했다. 뉴욕타임스(The New York Times)와 디지털 증오 대응 센터(Center for Countering Digital Hate)의 별도 분석에 따르면, 지난해 12월 말과 1월 사이 그록을 이용해 여성의 성적 이미지가 최소 180만 장 생성됐다.

 

 

인도네시아 통신·디지털부는 성명을 통해 엑스로부터 ‘서비스 개선과 오남용 방지를 위한 구체적인 조치’를 설명한 서한을 받은 뒤 금지를 해제했다고 밝혔다고 테크크런치는 전했다. 이 성명은 뉴욕타임스가 제공한 번역을 인용해 소개됐다.

 

알렉산더 사바르(Alexander Sabar) 인도네시아 통신·디지털부 디지털 공간 모니터링 국장은 이번 해제가 ‘조건부’라고 강조했다. 사바르 국장은 추가 위반이 발견될 경우 그록에 대한 금지를 다시 부과할 수 있다고 밝혔다.

 

말레이시아와 필리핀은 1월 23일(현지 시간) 이미 그록 사용 금지를 해제했다. 이들 세 나라의 조치는 동남아시아 주요국들이 그록 규제를 일부 완화하는 방향으로 움직이고 있음을 보여준다.

 

테크크런치는 그록을 활용한 딥페이크 성적 이미지 생산이 전 세계 각국 정부의 비판과 조사로 이어졌지만, 실제로 서비스 금지 조치까지 이뤄진 사례는 많지 않다고 전했다. 미국에서는 롭 본타(Rob Bonta) 캘리포니아주 법무장관이 엑스AI에 대해 조사를 진행 중이라고 밝혔다.

 

보타 법무장관은 사무실이 엑스AI에 생산 중단을 명령하는 ‘중지·금지’ 서한을 보냈으며, 그록을 통한 이 같은 이미지 생산을 즉각 종료할 것을 요구했다고 밝혔다. 이는 그록이 생성하는 이미지가 불법 콘텐츠에 해당할 수 있다는 미국 내 법 집행기관의 우려를 반영한다.

 

테크크런치에 따르면 엑스AI는 그록의 기능을 제한하기 위한 조치를 일부 취한 것으로 보인다. 엑스AI는 엑스 플랫폼 내 그록의 인공지능 이미지 생성 기능을 유료 구독 이용자에게만 제공하도록 제한한 것으로 전해졌다.

 

일론 머스크(Elon Musk) 엑스AI 최고경영자(CEO)는 그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 직접 업로드했을 때와 동일한 결과를 감수하게 될 것이라고 주장했다. 머스크 CEO는 또 그록이 나체의 미성년자 이미지를 생성했다는 사실을 ‘알고 있지 못하다’고 말했다.

 

한편 테크크런치는 미국 법무부가 2월 1일(현지 시간) 악명 높은 성범죄자 제프리 엡스타인(Jeffrey Epstein) 관련 자료를 공개했으며, 여기에는 2012년과 2013년에 오간 머스크와 엡스타인의 이메일이 최소 16건 포함돼 있다고 전했다. 이 이메일에서 머스크 CEO는 엡스타인의 카리브해 섬 방문을 요청하며 그 섬에서 열리는 ‘가장 과격한 파티’에 대해 묻기도 했다.

 

엡스타인은 2008년 미성년자를 상대로 성매매를 알선한 혐의에 대해 유죄를 인정한 바 있다. 이러한 과거 전력이 최근 공개된 이메일과 맞물리면서 머스크 CEO와 엡스타인의 관계가 다시 조명되고 있다.

 

테크크런치는 또 엑스AI가 머스크 CEO가 운영하는 다른 두 회사인 스페이스엑스(SpaceX)와 테슬라(Tesla)와의 합병을 논의 중이라고 보도했다. 이 합병 논의는 스페이스엑스 기업공개(IPO)를 앞두고 진행되고 있는 것으로 전해졌다.

 

헬로티 |