AI 반도체는 대량 데이터를 효율적으로 처리해 AI 성능을 향상시키는 중요한 역할을 한다. 이는 에너지 소비를 최소화하며 비용 효율성과 확장성을 제공한다는 점이 핵심이다. 다시 말해 AI 반도체는 AI 기술 발전을 가속하는 요소다. 이런 이유로 세계 유수의 반도체 기업들이 AI 반도체 개발에 집중하고 있다. 압도적인 GPU 성능으로 AI 반도체 시장을 주도하는 엔비디아, 그 아성에 도전하는 인텔과 삼성전자 등이 그 주인공이다. 

저만치 달아난 엔비디아, 따라잡을 수 있을까?

지난 3월, 엔비디아는 반도체 업계에 또 하나의 파장을 일으켰다. 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터에서 열린 개발자 컨퍼런스 ‘GTC(GPU Technology Conference) 2024’에서 새로운 AI 칩을 전 세계에 공개했다. 엔비디아는 2019년 이후 5년 만에 오프라인으로 GTC를 개최해 업계의 화제를 모았다. 

이 칩은 새로운 그래픽처리장치(GPU) ‘블랙웰’을 기반으로 한 ‘B100’이었다. 블랙웰은 2년 전 발표된 엔비디아 호퍼 아키텍처의 후속 기술로, B100은 기존 최고 성능을 자랑했던 H100을 뛰어넘는다는 평가다. 엔비디아에 따르면, B100의 연산 처리 속도는 H100보다 2.5배 빠르다. H100을 사용할 경우 GPT 훈련에는 90일 동안 8000여 개 GPU가 필요하지만, 블랙웰 GPU의 경우 같은 기간에 단 2000여 개의 GPU만 사용하면 되는 것으로 알려졌다. 전문가들은 H100 가격을 감안했을 때 B100이 5만 달러 수준이 될 것으로 예상했다. 

엔비디아는 AI 반도체 시장에서의 기술 리더십을 계속해서 확대하고 있다. B100의 등장은 엔비디아의 기술 혁신 능력과 시장에서의 지배력을 다시 한번 뽐냈다. B100 칩은 AI 모델 훈련 및 추론 작업에서 예상치 못한 속도와 효율성을 제공해 AI 연구 및 상용화 분야에서 엔비디아의 입지를 공고히 할 것으로 보인다. 엔비디아는 GPU 기반의 컴퓨팅 솔루션으로 딥러닝과 머신러닝 그리고 생성형 AI의 다양한 응용 분야에서 혁신을 주도하며, 당분간 AI의 미래를 형성하는 데 주도적인 역할을 할 것으로 전망된다. 

엔비디아 게 섯거라, 전통강호 인텔의 ‘반격’

인텔은 엔터프라이즈 시장에서 AI 도입을 가속화하고자 ‘인텔 가우디 3’ AI 가속기를 발표했다. 인텔은 연례 고객 및 파트너 컨퍼런스인 인텔 비전 2024에서 기업용 생성형 AI를 위한 성능, 개방성 및 선택권을 제공할 가우디 3 가속기와 함께 생성형 AI 도입 가속화를 위한 새로운 개방형 스케일러블 시스템 스위트, 차세대 제품 및 전략적 협력을 발표했다. 

가우디 3을 대표하는 특징은 고성능, 확장성, 개방성이다. 가우디 3는 복잡한 AI 연산을 빠르고 효율적으로 처리하는 능력을 제공하며, 공통 표준을 따르는 이더넷을 통해 최대 수만 개의 가속기를 연결해 AI 시스템을 구동한다. 또한, BF16에 대해 4배 더 많은 AI 컴퓨팅 및 기존 모델 대비 1.5배 커진 메모리 대역폭을 지원한다.

특히 가우디 3가 주목받은 건 엔비디아 H100과의 성능 비교였다. 인텔에 따르면, 가우디 3는 H100 대비 70억 개 및 130억 개의 매개변수가 있는 라마2 모델과 GPT-3 1750억 개 매개변수 모델 전체에서 평균 50% 빠른 학습 시간을 제공할 것으로 내다봤다. 추론 처리량의 경우 평균 H100보다 50%, 전력 효율성은 라마 70억 개 및 700억 개 매개변수에서 평균 40% 우수할 것으로 예상했다.

이와 동시에 인텔은 클라우드, 네트워크, 엣지 컴퓨팅에 이르기까지 다양한 분야에서 AI 솔루션을 통합할 수 있는 개방형 플랫폼을 제공하고, 이를 통해 기업들이 AI 기술을 보다 쉽게 접근하고 활용할 수 있도록 지원하고 있다. 또한, 다양한 기업과의 전략적 협력을 통해 업계 표준을 설정하고, AI 기술의 발전을 주도하고자 노력하고 있다. 이러한 전략은 인텔이 기술 혁신을 통해 시장에서의 위치를 강화하고, 새로운 비즈니스 기회 창출을 모색할 것으로 보인다. 

삼성, AI 반도체 향한 야망 드러내다

삼성전자는 최근 몇 년간 메모리 반도체 시장의 변동성에 직면하는 어려움을 겪었다. 그럼에도 불구하고, 지속적인 혁신과 전략적 투자를 통해 선두 위치를 탈환하려는 계획을 공개했다. 지난 3월 열린 제55기 주주총회는 삼성전자의 포부를 밝히는 자리였다.

이 자리에서 삼성전자는 향후 3년 안에 반도체 세계 1위 자리를 되찾겠다고 언급했다. 지난해 삼성전자는 인텔에 반도체 공급 매출 1위를 내준 바 있다. 가트너에 따르면, 지난해 삼성전자 반도체 매출은 전년 대비 37.5% 줄어든 399억 달러로, 487억 달러를 기록한 인텔에 밀려 2위를 기록했다. 

주주총회에서 언급된 ‘마하 1’은 삼성전자가 선보일 대규모언어모델(LLM)용 AI 칩이다. 마하1와 같은 추론 칩의 개발은 삼성전자가 기술적 우위를 확보하려는 단계로 보인다. 이 칩은 메모리 병목 현상을 해결하고 높은 파워 효율성을 제공함으로써 AI 시스템의 성능을 획기적으로 향상시킬 것으로 기대된다.

이외에도 삼성은 고대역폭 메모리(HBM) 시장에서 경쟁력을 강화하고, 차세대 메모리 기술 개발에 집중해 국내외 반도체 시장 경쟁력을 강화할 계획이다. 또한, 대규모 R&D 투자와 기술 혁신을 통해 경쟁 업체와의 기술 격차를 넓히고, 파운드리 서비스를 확대해 시장 점유율을 키우겠다는 의지다. 

혁신과 경쟁 불가피한 AI 반도체 시장

삼성전자, 인텔, 엔비디아는 각각의 전략과 혁신을 통해 반도체 및 AI 시장에서의 리더십을 유지하고자 한다. 삼성전자는 메모리 기술 및 AGI 칩 개발을 통해 시장에서의 위치를 강화하고, 새로운 성장 동력을 확보하는 방향으로 나아가고 있다. 인텔은 기업용 AI 솔루션과 개방형 플랫폼을 통해 다양한 산업에 걸쳐 AI의 접근성과 활용도를 높이는 데 집중하며, 엔비디아는 끊임없는 기술 혁신과 고성능 AI 칩 개발로 시장에서의 기술적 우위를 점하고 있다.

향후 세 회사의 행보는 AI와 반도체 기술의 미래를 좌우할 것으로 보인다. 이들 기업은 AI와 고성능 컴퓨팅 시장에서의 경쟁을 통해 지속적인 기술 혁신을 추구할 것이며, 그 과정에서 산업 전반에 걸쳐 기술의 새로운 기준을 설정할 것으로 보인다. 각사의 발전이 기술적 진보와 시장 경쟁을 어떻게 형성할지가 세 기업의 관전 포인트가 될 것이다. 

헬로티 서재창 기자 |