팹리스 반도체 혁신 기업 프라임마스(Primemas)가 AI 인프라의 최대 병목으로 지목돼온 메모리 용량 한계를 해결하기 위한 수십~수백 테라바이트(TB)급 메모리 확장 솔루션 'JBOM(Just a Bunch of Memory)'을 올해 하반기부터 양산 공급한다고 28일 밝혔다. 마이크론에 대한 양산 공급을 시작하는 한편, 삼성전자와는 차세대 CXL 메모리 솔루션을 공동 개발하며 글로벌 메모리 생태계 진입에 속도를 내고 있다.
JBOM은 CXL(Compute Express Link) 기반으로 대용량 메모리 모듈을 다수 묶어 서버 메모리를 수백 TB 규모의 메모리 풀로 확장하는 솔루션이다. 기존 CPU의 D램 용량은 2~4TB 수준에 머물러 있었으나, JBOM은 이를 CPU 서버당 수백 TB 이상의 메모리 풀로 끌어올린다. 프라임마스는 올해 40TB에서 최대 120TB급 JBOM 솔루션을 공급하고, 내년에는 240TB 이상으로 확장하는 로드맵을 추진하고 있다.
메모리 용량의 한계는 곧 GPU 활용률 저하로 직결된다. 현재 AI 데이터센터의 가장 큰 비효율은 값비싼 GPU가 충분히 활용되지 못하는 구조에서 발생하며, 그 핵심 원인으로 메모리 병목이 거론돼 왔다. 연산 성능에 비해 메모리 용량이 부족하면 GPU는 유휴 상태에 빠지는데, JBOM이 메모리 용량을 충분히 확보함으로써 GPU 활용률을 끌어올리는 것이 이번 솔루션의 핵심 가치다.
이 같은 메모리 확장 효과는 지난해 말 알리바바가 발표한 'CXL 기반 메모리 아키텍처(벨루가)' 연구를 통해서도 입증된 바 있다. 해당 연구에서 8TB급 CXL 메모리 확장 환경을 적용한 결과, AI 추론 엔진의 처리량이 기존 대비 7.35배 향상된 것으로 나타났다. 메모리 용량과 접근 방식이 AI 성능을 좌우하는 핵심 변수임을 보여주는 결과다.
프라임마스의 기술력은 글로벌 메모리 업계에서 빠르게 인정받고 있다. 마이크론과는 JBOM 솔루션 양산 공급 계약을 맺었으며, 삼성전자와는 차세대 CXL 메모리 솔루션 공동 개발을 진행 중이다. CXL은 메모리를 확장·공유하는 차세대 인터커넥트 기술로, JBOM과 같은 초대용량 메모리 풀 구성의 핵심 기반이다. 프라임마스는 미국 실리콘밸리 본사를 거점으로 미국 정부기관이 추진하는 AI 데이터센터 실증 사업에도 참여하고 있으며, 마이크로소프트 등 글로벌 데이터센터 운영사들과의 협업도 확대하고 있다. 회사는 2025년 시리즈 B 라운드에서 7,200만 달러를 유치한 바 있다.
전덕호 기술전략 담당 상무는 "GPU를 더 추가하는 방식만으로는 한계가 명확하다"며 "결국 메모리 병목을 어떻게 푸느냐가 AI 성능 경쟁의 핵심이 될 것"이라고 강조했다. 이어 "기술은 한국에서 만들어지고 시장은 글로벌에서 검증받는 구조가 점점 일반화되고 있다"며 "이번 양산 공급을 발판으로 메모리 중심 컴퓨팅 시대를 앞당기고, 그 성과가 국내 반도체 생태계의 경쟁력으로 이어지도록 하겠다"고 밝혔다.
헬로티 김재황 기자 |
