인공지능 반도체 기업 그래프코어(한국 지사장 강민우)가 최신 MLPerf 2.0 벤치마크 테스트서 IPU(Intelligence Processing Unit) 시스템의 획기적인 성능적 이점을 다시 한 번 입증했다.

 

그래프코어는 자사의 보우(Bow) Pod16이 상대적으로 비용이 더 높은 엔비디아(NVIDIA)의 플래그십 모델인 DGX-A100 640GB과 비교해 ResNet-50에서 31% 더 빠른 훈련시간을 기록했다고 밝혔다.

 

또한, BERT에 대해서는 MLPerf 1.1 벤치마크에서 보다 37% 향상된 성능을 달성하며 널리 사용되는 여러 언어 모델에 걸쳐 가격과 성능 모든 측면에서 선두자리를 지켰다고 설명했다.

 

 

특히, 최초로 그래프코어 시스템을 활용한 써드파티 결과를 제출한 바이두(Baidu)는 패들패들(PaddlePaddle) 소프트웨어 프레임워크를 사용하여 BERT 훈련에서 동일한 성능을 보였다.

 

그래프코어의 Bow Pod 시스템의 성능은 전반적으로 크게 개선됐지만, 가격은 이전과 동일해 상당한 비용효율성을 제공한다. 따라서 BERT 훈련시간이 최대 37% 향상됐다는 것은 그래프코어 시스템이 가격 대비 매우 우수한 성능 이점을 제공한다는 것을 의미한다.

 

 

바이두가 BERT 훈련에 Bow Pod16 및 Bow Pod64를 사용하여 제출한 패들패들 결과는 그래프코어가 PopART를 사용하여 제출한 결과와 유사한 양상을 보인다. 바이두는 패들패들 소프트웨어 프레임워크를 그래프코어의 포플러(Poplar)와 통합하여 탁월한 결과를 얻을 수 있었다.

 

그래프코어는 오픈(Open) 부문에서 RNN-T에 대한 결과도 제출했다. 그래프코어는 고객 서비스, 컴플라이언스, 프로세스 자동화 등의 분야에서 음성 솔루션을 제공하는 자사 고객인 그리드스페이스와 협력하여 RNN-T 훈련을 진행했다.

 

RNN-T 모델은 700GB 또는 1만 시간의 음성으로 훈련됐는데, Bow Pod64에서 훈련시간을 몇 주에서 단 며칠로 단축했다. 이번 MLPerf 2.0에 RNN-T 결과를 제출한 것은 IPU를 활용한 모델을 구현하고 최적화하기 위한 그래프코어의 고객 중심적 접근을 반영한 것이라 볼 수 있다.

 

헬로티 임근난 기자 |