오픈AI가 프롬프트 인젝션 공격으로부터 민감한 데이터를 보호하기 위한 신규 보안 기능 '락다운 모드'를 공개했다. 프롬프트 인젝션이란 웹페이지 등 콘텐츠 소스에 숨겨진 악의적인 챗봇 지시를 심어 AI 에이전트를 오조작하거나 정보를 탈취하는 공격 기법이다.

이에 오픈AI는 지난 6일(현지시간) 락다운 모드를 발표하면서 기존 보안 체계에 추가적인 보호를 제공할 것이라고 밝혔다. 락다운 모드를 활성화하면 실시간 웹 브라우징이 비활성화되고 캐시된 콘텐츠에만 접근이 허용된다. 웹 기반 이미지 검색 및 표시와 심층 연구 기능 에이전트 모드도 함께 비활성화된다. 다만 이미지 생성 기능은 계속 사용할 수 있다

오픈AI는 락다운 모드를 활성화하더라도 챗GPT가 프롬프트 인젝션에 완전히 면역되지는 않는다고 설명했다. 캐시된 웹 콘텐츠나 업로드된 파일에 포함된 악의적 지시가 응답의 동작이나 정확성에 영향을 미칠 수 있다는 것이다. 이 기능의 목표는 완전한 차단이 아니라 그 과정에서 민감한 데이터가 외부로 공유될 가능성을 줄이는 데 있다.

오픈AI에 따르면 "락다운 모드는 모든 이를 위한 것이 아니다"라며 민감한 데이터를 다루고 프롬프트 인젝션 관련 데이터 유출 위험으로부터 더 엄격한 보호를 원하는 개인과 조직을 위해 설계됐다고 밝혔으며, 현재 셀프서비스 챗GPT 비즈니스 계정과 일부 개인 계정을 대상으로 순차 출시 중이다.

헬로티 구서경 기자 |