OpenAI가 챗지피티(ChatGPT) 일반 이용자 계정에 미성년자 여부를 예측하는 연령 예측 모델을 도입해 18세 미만 사용자 보호를 강화하고 있다.

 

미국 경제방송 CNBC가 보도한 바에 따르면, OpenAI는 20일(현지 시간) 자사 챗지피티 소비자 요금제에 적용할 연령 예측 모델을 단계적으로 도입하고 있다고 밝혔다. 이 모델은 인공지능이 18세 미만 이용자 계정일 가능성이 있는지를 식별하는 데 도움을 주기 위한 것이다.

 

OpenAI는 이 연령 예측 모델이 계정 수준 신호와 이용 행태 신호를 결합해 작동한다고 설명했다. 여기에는 시간에 따른 사용 패턴, 계정이 개설된 기간, 사용자가 주로 활동하는 시각대, 이용자가 밝힌 나이 등이 포함된다.

 

 

CNBC에 따르면, OpenAI는 최근 몇 달 동안 특히 미성년자 보호와 관련해 자사 서비스의 안전성을 강화하라는 외부의 압박이 커지면서 여러 가지 새로운 안전 기능을 도입해 왔다. 이런 움직임은 인공지능 챗봇이 이용자, 특히 아동과 청소년에게 미칠 수 있는 부정적 영향에 대한 우려가 커진 데 따른 것이다.

 

보도에 따르면 OpenAI와 다른 기술 기업들은 이들 인공지능 챗봇이 아동과 청소년에게 잠재적으로 부정적인 영향을 줄 수 있는지에 대해 미국 연방거래위원회(FTC)의 조사를 받고 있다. OpenAI는 이와 별도로 여러 건의 불법 사망(wrongful death) 소송에도 피소된 상태이며, 그 가운데 하나는 한 10대 소년의 자살 사건을 중심으로 제기된 것으로 전해졌다.

 

OpenAI는 연령 예측 모델이 특정 이용자가 18세 미만일 가능성이 있다고 판단할 경우, 챗지피티에서 자동으로 보호 장치가 적용된다고 밝혔다. 이 보호 조치는 자해 묘사와 같은 "민감한 콘텐츠"에 대한 노출을 줄이기 위한 설정을 포함한다.

 

또한 만약 성인 이용자가 잘못 분류돼 18세 미만으로 판단될 경우, 신원 확인 서비스인 퍼소나(Persona)를 통해 본인 확인을 거치면 전체 기능에 대한 접근 권한을 다시 회복할 수 있다고 OpenAI는 설명했다.

 

헬로티 |