MoMo-70B, 700억 개 파라미터 가진 거대언어모델로 성능 증명해
모레가 자체 개발한 거대언어모델(LLM)이 머신러닝 플랫폼 허깅페이스에서 운영하는 ‘오픈 LLM 리더보드’ 평가에서 77.29점이라는 높은 점수를 기록하며 글로벌 1위에 올랐다.
허깅페이스 오픈 LLM 리더보드는 글로벌 AI 모델의 성능 검증 창구로 활용되는 개발형 플랫폼이다. 현재 3400개가 넘는 모델이 등록돼 추론, 상식 능력, 언어 이해 능력 등 6가지 평가 지표를 기준으로 순위를 다투고 있다.
이번에 1위에 오른 모레의 최신 모델 'MoMo-70B'은 700억 개의 파라미터를 가진 거대언어모델로 지난 17일 처음 리더보드 1위에 올라 현재까지 자리를 지키고 있다. 모델 개발 착수에서 1위 달성까지 단 3개월 만에 거둔 성과다.
모레가 이처럼 단기간에 LLM 분야에서 세계 1위의 두각을 나타낼 수 있었던 데는 모레가 자체 개발 및 보유하고 있는 AI 플랫폼 ‘MoAI’의 기술력이 뒷받침됐기 때문이다. 최고 수준의 LLM을 빠르게 개발하기 위해서는 무엇보다 효율적인 모델 학습 방법을 확보하는 것이 중요한데 모레의 MoAI 플랫폼은 고도의 병렬화 처리 기법을 통해 대규모 AI 모델을 효율적으로 개발하고 학습하도록 돕는다.
개발을 주도한 모레의 임정환 AI 그룹장은 “이번 1위 달성은 모레의 뛰어난 AI 모델 개발 능력과 AI 플랫폼 기술이 더해져 거둔 성과"라며 "MoAI를 통해 대규모 AI 모델의 개발 및 학습에 필요한 시간과 비용을 획기적으로 줄일 수 있었다"고 설명했다.
AI 반도체 생태계를 대표하는 주요 테크 기업으로 꼽히는 모레는 AI 인프라 소프트웨어를 비롯한 기업용 AI 클라우드 솔루션을 개발한다. 모레의 솔루션은 기존 엔비디아뿐 아니라 AMD 등 다양한 GPU, NPU 자원과의 호환성도 완벽해 AI 사업자에게 비용, 시간 측면에서 효율적이고 폭넓은 대안을 제공한다.
모레는 조강원 대표 등 토종 슈퍼컴퓨터 '천둥'을 개발한 서울대 매니코어프로그래밍연구단 출신들이 주축이 되어 2020년 9월 설립했다. 지난해 10월에는 KT, AMD 등으로부터 2200만 달러 규모의 시리즈B 라운드 투자를 받아 화제가 되기도 했다.
헬로티 서재창 기자 |
