콕스웨이브가 대화형 AI 모델의 ‘긴 맥락(Long-context)’ 처리 과정에서 발생하는 보안 취약점을 규명한 연구 논문으로 국제자연어처리학회(ACL) 2025 메인 컨퍼런스에 채택됐다. 해당 논문은 윤리·편향성·공정성(Ethics, Bias, and Fairness) 트랙에 선정되며, 빠르게 진화하는 생성형 AI 기술의 이면을 드러낸 점에서 학계와 업계의 주목을 받고 있다. 이번 연구는 KAIST 김재철 AI 대학원의 이기민 교수와의 협업으로 진행됐다. 이 교수는 구글 리서치 출신으로, ICML, NeurIPS, ICLR 등 주요 학술대회에 다수의 AI 안전성 관련 논문을 발표한 바 있으며, 지난해 콕스웨이브 어드바이저로 합류해 산학 협력에 참여하고 있다. 논문은 최근 LLM 분야에서 핵심 기술로 떠오른 ‘맥락 길이 확장’이, 기대와 달리 보안적 측면에서 새로운 리스크를 동반할 수 있음을 입증했다. 연구팀은 최대 128,000개 토큰까지 확장 가능한 모델 환경에서 실험을 진행한 결과, 반복되거나 무작위로 구성된 텍스트 입력만으로도 모델의 안전장치를 무력화할 수 있는 ‘다중샷 탈옥(Many-Shot Jailbreaking)’ 현상을 확인했다. 이는 대화의
양사 기술 협력으로 맞춤형 인사이트 제공 및 대화형 AI 정확성과 활용도 높여 투플랫폼과 콕스웨이브가 대화형 AI 기술 고도화를 위한 전략적 업무협약(MOU)을 체결했다. 이번 협약은 지난 5월 31일 체결됐으며, 양사는 협업을 통해 AICC부터 기업 내부 챗봇에 이르기까지 다양한 엔터프라이즈 환경에 최적화된 대화형 AI 솔루션을 제공할 계획이다. 투플랫폼은 실리콘밸리에 본사를 두고 한국과 인도를 주요 거점으로 운영 중인 글로벌 AI 스타트업이다. 독자 개발한 다국어 특화 AI 모델 ‘수트라(SUTRA)’를 기반으로 음성 인식, 비주얼 분석, 지식 증류 등 다양한 AI 기술을 개발해 왔으며, 특히 아시아태평양(APAC) 지역에서 기업 고객을 중심으로 입지를 빠르게 확장하고 있다. 콕스웨이브는 생성형 AI 기반의 서비스 개선을 위한 AI 제품 분석 플랫폼 ‘얼라인(Align)’을 중심으로 대화형 AI의 구축과 운영, 성능 분석 및 개선까지 포괄하는 엔터프라이즈 솔루션을 제공하고 있다. 최근에는 클로드 개발사 앤트로픽과의 '코리아 빌더 서밋' 공동 주최, PwC 인도, BTQ 등과의 협업을 통해 다양한 산업군의 AI 전환을 이끌고 있다. 이번 협약을 통해 양사는
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 07월 29일 16시 15분
