‘ICML 2026 AdaptFM 워크샵 및 효율적 큐웬 경진대회’서 글로벌 3위 석권
자체 양자화 및 추측적 디코딩 기술 방법론 채택...“오픈소스 모델 ‘큐웬(Qwen)’ 추론 속도 6.978배 혁신”
노타가 글로벌 머신러닝(Machine-learning) 학회 ‘국제 머신러닝 학회(ICML 2026)’에서 열린 경진대회에서 3위를 차지하며 기술력을 공인받았다.
노타가 참여한 이 ‘ICML 2026 AdaptFM 워크샵 및 효율적 큐웬 경진대회(ICML 2026 AdaptFM Workshop & Efficient Qwen Competition)’는 글로벌 경진·연구 발표 세션이다. 자원 제약이 있는 에지 컴퓨팅(Edge Computing) 환경에서 대규모 파운데이션 모델을 구동하기 위한 고효율 추론 인프라를 마련하기 위해 기획됐다. 여기에 모델의 응답 성능을 끌어올리는 기술적 도전을 장려하기 위한 목적도 있다.
전 세계 탑티어 연구팀은 거대언어모델(LLM)의 가중치를 압축하는 양자화 기술과 추론 과정을 단축하는 알고리즘을 실증했다. 글로벌 빅테크 관계자는 이를 기반으로 향후 온디바이스 AI(On-device AI) 시장을 견인할 차세대 소프트웨어 기술을 평가했다.
노타는 아마존(AMAZON)·메타(META) 등 글로벌 빅테크 기업 연구진이 조직위원으로 참여한 이번 경진대회에 출격했다. 40여 개 팀과 기술 경합을 벌인 끝에 최종 3위에 올랐다. 사측은 이번 입상에 대해, 학술적 연구 성과와 실전 서비스 적용 능력을 동시에 검증받았다고 자평했다.
올해 경진대회의 과제는 글로벌 개발자가 활용하는 오픈소스 대규모 언어 모델 ‘큐웬(Qwen) 3.5-4B’을 다뤘다. 답변 정확도를 유지하면서도 추론 응답 속도를 얼마나 극대화할 수 있는지를 평가했다. 노타는 평균 6.978배의 성능 향상을 기록하며 기술적 쾌거를 이뤄냈다.
회사는 자체 개발한 양자화 기술을 적용해 메모리 점유율을 낮추고, 답변 후보를 빠르게 생성한 뒤 검증하는 ‘추측적 디코딩(Speculative Decoding)’ 기법을 결합했다고 밝혔다. 여기에 최신 입력 정보를 정밀 처리하는 ‘슬라이딩 윈도우 어텐션(Sliding-window Attention)’ 기법을 더해 불필요한 연산을 원천 차단하는 성과를 기록했다고 덧붙였다.
이는 학술적 결실과도 연결됐다. 노타는 이번 대회 수상과 더불어, 전문가 모델 중 필요한 일부만 가동하는 ‘전문가혼합(MoE)’ 구조의 언어 모델의 양자화 최적화 관련 논문 2편을 학회 워크숍에서 발표했다.
김태호 노타 최고기술책임자(CTO) 겸 공동창업자는 "글로벌 AI 생태계에서 활용되는 대표적인 오픈소스 모델을 대상으로, 자사 추론 최적화 역량을 검증받은 이정표"라고 소감을 전했다. 연이어 "앞으로도 다양한 AI 서비스와 온디바이스·에지 AI 환경 전반으로 최적화 기술의 적용 범위를 확대 전개할 것"이라고 부연했다.
헬로티 최재규 기자 |
