에임인텔리전스(AIM-Intelligence)가 정부의 '모두의 AI' 프로젝트에 참여한다.
에임인텔리전스는 SK텔레콤이 주관하는 컨소시엄에 합류해 AI 레드티밍과 AI 가드레일 기술을 지원하고 AI 보안 체계 고도화에 협력한다. 신규 AI 에이전트의 서비스 운영 중에 발생할 수 있는 위험성을 사전에 탐지하고 통제하는 체계를 구축하며, 개인정보 유출, 정책 위반, 프롬프트 공격, 비정상 행동 등 위험 요소를 미리 예방할 수 있는 시스템을 통해 서비스 안전성을 높인다.
SK텔레콤 컨소시엄은 단순 답변을 넘어 예약·전화·공공업무 등 국민의 실생활을 돕는 '실행형 AI 비서'로 서비스를 확대하는 것을 목표로 한다. 에임인텔리전스는 단순 챗봇 보안을 넘어 AI 에이전틱 기능에 대한 지속 가능한 안전검증 체계를 구축해 보안성을 끌어올린다는 방침이다. 생성형 AI뿐 아니라 자율적으로 판단하고 행동하는 AI 에이전트·피지컬AI까지 보안 범위를 확장하는 것이 핵심이다.
'모두의 AI'는 범용 AI 챗봇과 공공·특화 AI 에이전트를 구축해 국민이 일상에서 이용할 수 있도록 지원하는 정부 사업으로 이달 중 베타 버전이 공개될 예정이며 연내 정식 서비스 출시를 목표로 한다.
유상윤 에임인텔리전스 대표는 "모두의 AI 사업은 인공지능이 단순 답변을 넘어 국민의 일상에 스며들어 행동을 수행하는 전환점이 될 것"이라며 "AI 보안은 에임인텔리전스에게 맡길 수 있도록 최선을 다하겠다"고 말했다.
헬로티 구서경 기자 |
