앤트로픽이 코드 도우미 서비스 클로드 코드(Claude Code)에 자동 실행 기능 '오토 모드(auto mode)'를 도입하며 AI 코딩 도구의 안전성 강화에 나섰다.
엔가젯(Engadget)에 따르면 앤트로픽은 클로드 코드 내 오토 모드 프리뷰를 시작했으며 이 기능을 기존 기본 동작과 개발자들이 사용하는 고위험 명령 사이의 중간 경로로 설명했다. 현재 클로드 코드는 기본 설정에서 모든 파일 쓰기와 배시(bash) 명령마다 사용자 승인을 요청하도록 설계돼 있으며 일부 개발자는 챗봇이 더 자율적으로 작동하도록 'dangerously-skip-permissions' 명령을 사용해 왔다.
오토 모드가 활성화되면 분류기 시스템이 클로드를 안내해 안전하다고 판단되는 작업에는 실행 권한을 부여하고 위험성이 있다고 판단되는 경우에는 다른 접근 방식을 취하도록 유도한다. 앤트로픽은 이 시스템의 목표가 클로드가 대량의 파일을 삭제하거나 민감한 데이터를 추출하거나 악성 코드를 실행할 가능성을 줄이는 데 있다고 설명했다. 다만 분류기가 여전히 일부 위험한 작업을 허용할 수 있으며 사용자 의도가 모호하거나 클로드가 충분한 문맥 정보를 갖고 있지 않은 경우 한계가 있을 수 있다고 경고했다.
엔가젯은 앤트로픽이 오토 모드 도입의 직접적 계기가 된 사건을 언급하지는 않았으나 최근 아마존웹서비스(AWS)에서 AI 도구가 호스팅 환경을 삭제해 13시간 장애가 발생한 사례가 배경에 있었을 가능성이 있다고 전했다. 아마존(Amazon)은 당시 해당 AI 도구에 관여한 직원이 예상보다 더 넓은 권한을 가지고 있었다며 인적 오류에 책임을 돌렸다.
앤트로픽은 팀 플랜(Team plan) 이용자들이 3월 26일(현지 시간)부터 오토 모드를 미리 사용해 볼 수 있으며 이후 며칠 내로 엔터프라이즈(Enterprise)와 API 이용자들에게도 순차 제공할 계획이라고 밝혔다.
헬로티 구서경 기자 |
