오픈AI의 로봇 하드웨어 부문 책임자가 미국 국방부와의 계약 발표 이후 회사의 거버넌스와 안전 장치에 대한 우려를 표하며 자리에서 물러났다.
IT 매체 엔가젯(Engadget)에 따르면 오픈AI(OpenAI)의 로봇 하드웨어 리드인 케일린 케일리노프스키(Caitlin Kalinowski)가 국방부(Department of Defense)와의 협력 발표 이후 사임했다.
엔가젯에 따르면 케일리노프스키는 오픈AI 로봇 공학 부문에서 하드웨어를 총괄해왔으며, 소셜미디어 엑스(X)에 자신이 직무에서 물러난다고 밝히면서, 적절한 안전 장치에 대한 검토 없이 회사가 국방부와의 파트너십을 서두르고 있다고 비판했다.
오픈AI는 엔가젯에 케일리노프스키의 직책을 대체할 계획이 없다고 밝혔다는 것이다.
케일리노프스키는 과거 메타(Meta)에서 근무하다가 2024년 말 오픈AI에 합류했다. 그는 엑스에 “사법적 감독 없이 이루어지는 미국인에 대한 감시와, 인간의 승인 없이 작동하는 치명적 자율성은 더 많은 숙고가 필요했던 선이다”라고 적었다.
또 다른 게시물에 답하면서, 케일리노프스키는 “발표는 안전 장치가 정의되지 않은 상태에서 서둘러 이루어졌다”고 설명했고, 이는 “무엇보다도 거버넌스 문제”라고 덧붙였다.
오픈AI는 케일리노프스키의 사임을 확인하고, 엔가젯에 보낸 성명을 통해 회사가 이러한 이슈에 대해 사람들이 “강한 견해”를 가지고 있음을 이해하며, 관련 당사자들과 논의를 계속할 것이라고 밝혔다.
회사 측은 또 성명에서 케일리노프스키가 제기한 사안들을 자사는 지지하지 않는다고 설명했다.
오픈AI의 성명에는 “우리는 국방부와의 합의가 인공지능의 책임 있는 국가 안보 활용을 위한 실질적인 경로를 만들면서, 우리의 레드라인을 분명히 한다고 믿는다. 즉 국내 감시나 자율 무기는 허용하지 않는다는 것”이라고 적혀 있다.
케일리노프스키의 사임은 오픈AI가 국방부와 계약을 체결한 결정 이후 나타난 가장 주목받는 후폭풍일 수 있다고 엔가젯은 전했다.
앞서 경쟁사 앤트로픽(Anthropic)은 대규모 감시와 완전한 자율무기 개발과 관련해 일부 인공지능 안전 장치를 해제하라는 요구에 응하기를 거부한 직후, 오픈AI가 국방부와 계약을 맺었다.
그러나 오픈AI 최고경영자 샘 알트먼(Sam Altman) 역시 국방부와의 계약에서 미국인에 대한 스파이 행위를 금지하는 방향으로 수정하겠다고 밝힌 바 있다고 엔가젯은 전했다.
헬로티 |
