에이전틱 AI 스타트업 포티투마루(42Maru, 대표 김동환)가 1일 오후 서울 중구 서울스퀘어 국가인공지능전략위원회 회의실에서 열린 'AI 개발 속도조절론 관련 세미나'에 참석해 글로벌 AI 속도조절론 대두에 따른 대한민국의 실효적 대응 전략과 안전·신뢰 기반의 국제 안전 규범 제정 방향을 제시했다고 밝혔다.
대통령 직속 국가인공지능전략위원회 보안특별위원회가 주관한 이번 세미나는 프런티어 AI 개발 속도조절론의 국내외 현황을 진단하고 국가 차원의 대응 전략과 거버넌스 방향을 모색하기 위해 마련됐다. 현장 참석과 온라인 중계를 병행해 공개 진행됐으며, 하정우 국가AI전략위 부위원장의 인사말에 이어 이원태 보안특별위원회 위원장이 '글로벌 프런티어 AI 개발 속도조절론과 대한민국 AI의 대응전략'을 주제로 기조 발제를 진행했다. 이어 최대선 숭실대 AI안전성연구센터 센터장, 김성훈 업스테이지 대표, 이한울 AIM인텔리전스 부사장이 부문 발제자로 나서 AI 발전의 위험과 통제, 프런티어 기술 진화, 산업 및 보안 역량을 각각 발표했다.
종합 패널 토의에서 국가AI전략위 공공AX분과 위원으로 활동 중인 김동환 대표는 "기술 발전 속도가 사회적 제도 및 윤리적 합의 속도를 훨씬 앞지르고 있어 속도조절의 필요성에는 공감하나 현실성이 없다"며 "AI 산업 육성과 안전장치 마련을 병행해야 한다"고 강조했다. 또한 "특정 기업이나 국가의 이익을 대변하지 않도록 다양한 분야의 국제 기구들을 통한 다자 협력 체계를 구축해야 한다"고 역설했다.
김 대표는 일률적인 속도 조절이나 규제가 아닌 철저한 신뢰성과 안전성을 전제로 한 위험 기반(Risk-based) 관리 체계가 뒷받침되어야 한다고도 제언했다. 기술의 잠재적 위험을 통제하기 위해 환각(Hallucination) 제어와 데이터 유출 차단 등 검증된 기술적 안전장치를 공공과 산업 현장에 선제 구축하고, 이를 발판 삼아 통제·검증이 가능한 에이전틱 AI를 복잡한 실무에 폭넓게 도입해야 글로벌 기술 패권 경쟁에서 독자적 입지를 확보할 수 있다는 설명이다.
포티투마루는 국내 대형언어모델(LLM) 최초로 TTA 'AI 신뢰성 인증(CAT)'을 획득하고 'AI-MASTER' 인증을 국내 1호로 받아 공공·민간 양대 AI 신뢰성 인증을 보유하고 있다. 이달 초에는 핵심 생성형 AI 솔루션인 도메인 특화 경량 언어모델 'LLM42 v.1.1'과 고정밀 검색증강생성 솔루션 'RAG42 v.1.3'이 정부 '인공지능 제품·서비스 확인제' 인증을 동시에 취득했다.
김동환 대표는 "글로벌 프런티어 모델 속도조절론 논쟁에 휩쓸려 대한민국의 AI 혁신이 흔들려서는 안 된다"며 "지금 필요한 것은 속도 조절이 아니라 안전성과 신뢰성이 검증된 안전장치 마련을 신속하게 강화하는 것이며, 국제 안전 규범 제정에 있어 대한민국이 글로벌 리더십을 발휘해야 한다"고 강조했다.
헬로티 김재황 기자 |
