배너
닫기

일반뉴스

배너

생성형 AI 시장 확대에 HBM 기술 주시하는 IT 기업들

URL복사
[선착순 마감 임박] AI분야 특급 전문가들과 함께 AI로 우리 기업의 미래 경쟁력을 확보하는 방법을 공유합니다. AI 비즈니스 개발 융합 컨퍼런스에서 확인하세요 (5/3, 코엑스 E홀)

 

트렌드포스, HBM 시장 2025년까지 연평균 45% 이상 성장할 것으로 예측

 

생성형 AI 시장이 급성장하면서 AI 서버 개발을 위한 고대역폭메모리(HBM)가 IT 업계의 주목을 받고 있다. 

 

AI 서비스가 제대로 구현되기 위해서는 고성능·고용량 D램이 뒷받침돼야 하기 때문이다. 삼성전자도 이런 기술 트렌드에 발맞춰 HBM 등 차세대 D램 개발과 양산에 박차를 가하고 있다.

 

26일 업계에 따르면, 삼성전자는 6.4Gbps의 성능과 초저전력을 기반으로 하는 HBM3 16GB와 12단 24GB 제품 샘플을 출하 중이며 양산 준비를 완료했다. 삼성전자는 시장이 요구하는 더 높은 성능과 용량의 차세대 HBM3P 제품도 하반기 출시 예정이다. 

 

HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 비약적으로 끌어올린 고성능 제품이다. HBM3는 1세대(HBM), 2세대(HBM2), 3세대(HBM2E)에 이은 4세대 제품이다. 비록 HBM이 전체 D램 시장에서 차지하는 비중은 미미하지만, HBM은 메모리 불황의 새 돌파구가 될 것으로 기대를 모으고 있다. 

 

챗GPT 같은 AI 분야 데이터 처리에 쓰이는 그래픽처리장치(GPU)에 HBM을 비롯한 D램이 대거 탑재되기 때문이다. AI 서비스가 제대로 구현되기 위해서는 방대한 데이터를 원활히 처리하는 고성능·고용량 D램이 필수다. 실제 삼성전자는 주요 고객사에 HBM 등 첨단 메모리 제품을 공급하고 있다. 

 

업계에 따르면, AMD가 최근 공개한 AI용 슈퍼칩 MI300에는 삼성전자의 HBM3가 탑재됐다. 인텔과 미국 아르곤 국립연구소가 최근 구축한 슈퍼컴퓨터 '오로라'에도 삼성전자의 첨단 메모리 제품이 탑재된 것으로 알려졌다. 

 

현재 HBM 시장에서는 SK하이닉스가 삼성전자를 앞서고 있다. 트렌드포스에 따르면 지난해 글로벌 HBM 시장 점유율은 SK하이닉스 50%, 삼성전자 40%, 미국 마이크론 10% 순이다. 다만 HBM 시장은 아직 시장 형성 초기 단계로 평가된다. HBM 시장이 전체 D램 시장에서 차지하는 비중은 1% 미만으로 추정된다. 

 

업계 관계자는 "현재 HBM 시장에서 점유율 및 기술 진척도를 갖고 전체 경쟁력을 판단하는 것은 무리가 있다"고 설명했다. 그럼에도 성장성은 밝다. 트랜드포스는 HBM 시장 규모가 올해부터 2025년까지 연평균 45% 이상 성장할 것이라고 예상했다. 그동안 삼성전자는 모바일과 고성능 컴퓨팅(HPC)에 주력해왔고, 상대적으로 HBM은 우선순위가 아니었다.

 

하지만 삼성이 HBM 시장에 다시 주목하면서 현재의 HBM 시장 판세는 요동칠 것으로 전망된다. 김동원 KB증권 연구원은 "4분기부터 북미 GPU 업체에 삼성전자 HBM3 공급이 본격화될 것"이라며 "삼성전자 전체 D램 매출에서 HBM3가 차지하는 매출 비중이 올해 6%에서 내년 18%까지 확대될 것"이라고 전망했다.

 

삼성전자는 HBM 외에도 메모리와 시스템 반도체를 융합한 HBM-PIM, D램 용량 한계를 극복할 수 있는 CXL D램 등 새로운 메모리 솔루션을 꾸준히 선보이고 있다. 챗GPT와 같은 대규모 AI 모델의 경우 메모리 병목 현상으로 문장 생성 속도가 지연되기도 하는데, HBM-PIM 기술을 적용하면 기존 HBM이 탑재된 GPU 가속기에 비해 AI 모델의 생성 성능이 약 3.4배 개선된다. 

 

삼성전자는 CXL 기반 PIM 기술 적용 시 기존 GPU 가속기 대비 D램 용량은 4배 증가하고, AI 모델의 로딩 속도는 2배 이상 빨라진다고 삼성전자는 설명했다.

 

헬로티 서재창 기자 |










배너









주요파트너/추천기업