AI 인프라 솔루션 기업 모레(MOREH, 대표 조강원)는 미국 샌프란시스코에서 열린 AMD의 '어드밴싱 AI 2026(Advancing AI 2026)' 행사에 참가해 자사의 분산 추론 기술을 공개했다고 24일 밝혔다.
모레는 이번 행사에서 AMD의 MI300X 그래픽 처리 장치 32장(4노드)으로 구성된 시스템을 구축했다. 해당 시스템에 자사의 'MoAI 추론 프레임워크'를 적용해 대규모 언어 모델 GLM-5.1을 구동하는 시연을 진행했다.
현장에서는 실제 챗봇 사용을 통한 응답 속도 확인과 함께 서비스 성능 지표가 실시간으로 공개됐다. 공개된 지표에는 GPU 활용률, TPS(Tokens Per Second, 초당 토큰 수), TTFT(Time To First Token, 첫 토큰 출력 시간), TPOT(Time Per Output Token, 토큰 당 출력 시간)이 포함됐다.
업체 관계자에 따르면 MoAI 추론 프레임워크는 AMD 생태계에서 분산 추론 기술을 상용화한 사례로 이 기술은 AI 모델 대형화에 따른 인프라 비용 상승을 줄이기 위한 방안으로 평가받는다.
이 관계자는 자체 AI 인프라 엔진 개발과 함께 자회사 모티프테크놀로지스를 통해 모델 관련 기술력을 확보하고 있으며, AMD, 텐스토렌트 등 글로벌 기업들과 협력을 이어가고 있다고 설명했다.
조강원 모레 대표는 "이번 행사는 AMD GPU 환경에서 추론 성능을 글로벌 고객에게 검증받은 자리였다"며 "기업들이 AI 서비스를 효율적으로 운영하도록 AI 인프라 소프트웨어 기술을 고도화하겠다"고 말했다.
