HBM3e로 초당 4.8테라바이트의 속도로 141GB 메모리 제공 엔비디아가 엔비디아 HGX H200을 출시한다고 밝혔다. 이 플랫폼은 엔비디아 호퍼 아키텍처를 기반으로 고급 메모리가 내장된 엔비디아 H200 텐서 코어 GPU를 탑재하고 있다. 따라서 생성형 AI와 고성능 컴퓨팅 워크로드를 위한 방대한 양의 데이터를 처리한다. 이번 HGX H200 출시로 AI 컴퓨팅 플랫폼을 가속화할 것으로 기대된다. 엔비디아 H200은 HBM3e를 제공하는 최초의 GPU다. HBM3e은 더 빠르고 대용량 메모리로 생성형 AI와 대규모 언어 모델의 가속화를 촉진하는 동시에 HPC 워크로드를 위한 과학 컴퓨팅을 발전시킨다. 엔비디아 H200은 HBM3e를 통해 초당 4.8테라바이트의 속도로 141GB의 메모리를 제공하며, 이전 모델인 엔비디아 A100에 비해 거의 두 배 용량과 2.4배 더 많은 대역폭을 제공한다. 세계 유수 서버 제조업체와 클라우드 서비스 제공업체의 H200 기반 시스템은 2024년 2분기에 출시될 예정이다. 엔비디아 하이퍼스케일과 HPC 담당 부사장인 이안 벅(Ian Buck)은 "생성형 AI와 HPC 애플리케이션으로 인텔리전스를 생성하기 위해서는 대규모의
삼성·SK·마이크론, 고객사 샘플공급 시작…생산능력 투자에 '사활' 인공지능(AI)용 고성능 반도체인 고대역폭 메모리(HBM) 시장에서 차세대 제품인 'HBM3E' 시장이 본격적으로 열리고 있다. 29일 업계에 따르면 내년 양산 예정인 HBM3E 시장 선점을 둘러싸고 글로벌 메모리 업체 간 샅바싸움이 한창이다. 3대 D램 업체 모두 '참전'…내년 양산 들어갈 듯 HBM은 D램 여러 개를 수직으로 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고성능 메모리로, 최근 AI 분야에서 수요가 가파르게 늘고 있다. 1세대 HBM에 이어 2세대 HBM2, 3세대 HBM2E, 4세대 HBM3, 5세대 HBM3E, 6세대 HBM4 순으로 개발된다. 현재 4세대인 HBM3 제품이 양산되고 있다. 글로벌 3대 D램 기업인 삼성전자, SK하이닉스, 마이크론 모두 5세대인 HBM3E 개발을 완료하고 샘플 공급을 시작하면서 양산을 준비하고 있다. HBM 시장에서 한발 앞선 SK하이닉스는 HBM3E 개발에 성공하고, 검증 절차를 위해 고객사 엔비디아에 샘플을 공급하기 시작했다고 지난 8월 발표했다. 이번에 개발한 HBM3E는 초당 최대 1.15테라바이트(TB) 이상의 데이터를 처리한
美서 ‘메모리 역할 재정의’ 삼성 메모리 테크 데이 2023 열어 HBM3E D램 ‘샤인볼트’, 차세대 PC 및 노트북용 D램, 차량용 메모리 등 공개 삼성전자가 미국 실리콘밸리 소재 맥에너리 컨벤션 센터에서 ‘삼성 메모리 테크 데이 2023 (Samsung Memory Tech Day 2023)’을 열어 메모리 솔루션 전략 및 비전을 공유했다. 이날 행사에서는 ‘메모리 역할의 재정의(Memory Reimagined)’를 주제로, 클라우드·에지 디바이스·차량 등 분야의 기술 트렌드와 데이터 센터, PC·모바일 기기 등 기술 혁신 및 탄소 저감 비전을 공유했다. 아울러 HBM3E D램 ‘샤인볼트(Shinebolt)’, PC 및 노트북용 D램, 차량용 탈부착 SSD 등도 함께 공개했다. 삼성전자가 이번 행사에서 공개한 샤인볼트는 지난 2016년 개발된 컴퓨팅(HPC)용 HBM2를 기반으로 설계된 차세대 HBM3E D램이다. 해당 제품은 데이터 입출력 핀 1개당 최대 9.8Gbps 속도를 제공한다. 이를 통해 초당 최대 1.2TB가량 데이터를 처리할 수 있다. 삼성전자는 샤인볼트 설계 핵심으로 열 특성 개선 측면을 내세웠다. NCF(Non-Conductive Fi
차세대 고성능 반도체 D램인 고대역폭 메모리(HBM)가 태풍의 중심이 되고 있다. AI, HPC 등의 영역에서 고성능 메모리 반도체 수요가 급증함에 따라, 주요 반도체 기업들은 HBM을 미래 먹거리로 삼고 경쟁력을 키우고 있다. 삼성전자와 SK하이닉스는 세계 메모리 반도체 산업을 주도하는 플레이어로서 HBM 개발에 박차를 가하는 추세다. SK·삼성, HBM 시장 점유 확대되나 반도체 업계에서는 HBM에 장밋빛 미래가 걸려 있다고 확신한다. 챗GPT 같은 AI 분야 데이터 처리에 쓰이는 GPU에 HBM이 대거 탑재되기 때문이다. 증권가에서는 HBM이 D램 수요 회복을 이끌 견인차가 될 것이란 전망이 나온다. 김운호 IBK투자증권 연구원은 “옴디아는 HBM 시장이 향후 5년간 연평균 최소 40% 성장세를 지속할 것으로 예상한다”며 “내년에서 2026년까지 이어질 것으로 예상되는 반도체 업사이클 기간에서 D램의 역대 최대 매출 기록이 경신될 수 있을 것으로 전망한다”고 전했다. 이어 그는 AI라는 새 성장동력이 등장함에 따라 향후 D램 시장이 매출 1000억 달러 규모 시장으로 성장할 수 있다고 전망했다. HBM 공급이 본격화하는 하반기부터 주요 메모리 반도체 기
내년 상반기 양산 계획 “AI용 메모리 시장서 독보적 지위 이어갈 것” SK하이닉스가 AI용 초고성능 D램 신제품인 ‘HBM3E’ 개발에 성공했다고 밝혔다. SK하이닉스는 성능 검증 절차를 진행하기 위해 고객사에 샘플을 공급하기 시작했다고 전했다. HBM(High Bandwidth Memory)은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고성능 제품이다. SK하이닉스는 “당사는 HBM3를 독점적으로 양산해온 경험을 바탕으로 세계 최고 성능이 구현된 확장 버전인 HBM3E를 개발하는 데 성공했다”며 “업계 최대 HBM 공급 경험과 양산 성숙도를 토대로 내년 상반기부터 HBM3E 양산에 들어가 AI용 메모리 시장에서 독보적인 지위를 확고히 하겠다”고 강조했다. 회사에 따르면 이번 HBM3E는 AI용 메모리의 필수 사양인 속도는 물론, 발열 제어, 고객 사용 편의성 등 모든 측면에서 세계 최고 수준을 충족시켰다. 속도 측면에서 HBM3E는 초당 최대 1.15TB(테라바이트) 이상의 데이터를 처리할 수 있다. 이는 FHD(Full-HD)급 영화(5GB = 5기가바이트) 230편 이상 분량의 데이터를 1초 만에 처리하는
FHD급 영화(5GB) 230편 이상 분량의 데이터를 1초 만에 처리 SK하이닉스가 21일 AI용 초고성능 D램 신제품인 ‘HBM3E’ 개발에 성공하고, 성능 검증 절차를 진행하기 위해 고객사에 샘플을 공급하기 시작했다고 밝혔다. SK하이닉스는 “당사는 HBM3를 독점적으로 양산해온 경험을 바탕으로 세계 최고 성능이 구현된 확장 버전인 HBM3E를 개발하는 데 성공했다”며 “업계 최대 HBM 공급 경험과 양산 성숙도를 토대로 내년 상반기부터 HBM3E 양산에 들어가 AI용 메모리 시장에서 독보적인 지위를 확고히 하겠다”고 강조했다. 회사에 따르면, 이번 HBM3E는 AI용 메모리의 필수 사양인 속도는 물론, 발열 제어, 고객 사용 편의성 등 모든 측면에서 세계 최고 수준을 충족시켰다. 속도 측면에서 HBM3E는 초당 최대 1.15TB 이상의 데이터를 처리할 수 있다. 이는 FHD급 영화(5GB) 230편 이상 분량의 데이터를 1초 만에 처리하는 수준이다. 이와 함께, SK하이닉스 기술진은 이번 제품에 어드밴스드 MR-MUF 최신 기술을 적용해 제품의 열 방출 성능을 기존 대비 10% 향상시켰다. HBM3E는 하위 호환성도 갖춰, 고객은 HBM3를 염두에 두고