장기기억 AI 및 반도체 통합 솔루션 전문기업 디노티시아(대표이사 정무경)는 자사 AI 스토리지 시스템 '씨홀스 스토리지(Seahorse Storage)'가 글로벌 AI 스토리지 벤치마크 'MLPerf® Storage v3.0'의 벡터 데이터베이스(Vector Database) 평가에서 57,619.8 QPS(초당 질의 처리 건수)를 기록해 처리량 기준 1위를 차지했다고 밝혔다. 본 평가는 과학기술정보통신부·IITP가 지원하는 'HPC 이노베이션 허브' 사업의 일환으로 TTA와 공동 수행했다.
이번 평가는 총 19개 기관이 99개 시스템 구성으로 150건의 결과를 제출했다. 디노티시아는 제출기관 중 유일하게 하나의 다중 노드 분산 스토리지 구성으로 AI 학습·모델 저장·복구·LLM 추론·벡터 검색까지 4개 워크로드 평가를 모두 수행하며 씨홀스 스토리지의 성능과 범용성을 동시에 검증했다.
MLPerf® Storage v3.0에서는 기존 AI 학습·모델 저장·복구 평가에 LLM 추론 성능을 좌우하는 KV Cache와 RAG·AI 검색의 핵심인 벡터 DB가 새롭게 추가됐다. 벡터DB 평가에서 클라이언트 4노드 구성으로 57,619.8 QPS를 기록해 1위를 차지했으며, Llama3 70B 모델 기준 Checkpointing 읽기 성능 114.73 GiB/s(이론 대역폭의 82.1%)를 기록했다.
디노티시아는 오픈소스 분산 스토리지 Ceph를 기반으로 400G InfiniBand 네트워크 환경에 대응했다. 서버·클라이언트 간 Native RDMA를 지원하는 Ceph 풀스택을 직접 구현해 CPU 개입과 데이터 복사를 줄이고 범용 서버 기반의 분산 스토리지에서도 대규모 AI 데이터를 빠르게 처리할 수 있도록 했다.
정무경 디노티시아 대표는 "AI 인프라의 병목이 메모리 시스템과 데이터 처리 영역으로 옮겨가면서 AI 스토리지가 핵심 인프라로 부상하고 있다"며 "씨홀스 스토리지로 다양한 AI 워크로드를 하나의 데이터 인프라에서 지원해 기업의 AI 구축과 운영을 효율화하겠다"고 말했다.
헬로티 김재황 기자 |
