AI AI도입 장벽은 GPU 비용...오케스트로, 서버 가상화 솔루션 제시

AI 수요가 빠르게 증가하는 가운데, 기업들이 도입을 주저하는 가장 큰 이유는 GPU 등 인프라 구축 비용으로 나타났다. 오케스트로는 지난 6월 클라우드 서비스를 사용하는 기업 및 공공기관 종사자 6615명을 대상으로 한 ‘클라우드 환경에서의 AI 활용방안’ 설문 결과를 17일 발표했다. AI 도입 시 가장 큰 제약 요인은 GPU 등 기술 도입 비용(23.5%)이었다. 이어 전문 인력 부족(22.6%), 데이터 보안 우려(14.4%)가 뒤를 이었다. AI 도입은 초기 구축비도 크지만 사용량 기반의 과금 구조로 인해 장기적인 총소유비용(TCO) 부담이 크다. 여기에 AI 학습과 운영에 활용되는 핵심 데이터가 외부 클라우드에 저장되면서 보안 우려도 높아지고 있다. 비용과 보안이라는 이중 부담 속에서 퍼블릭 클라우드 기반 AI 환경의 한계가 분명해지면서 내부 데이터를 활용한 프라이빗 AI 환경은 더이상 선택이 아닌 대세로 자리잡고 있다. AI에 대한 기대 역시 현실적인 해법에 집중됐다. ‘비용 최적화’와 ‘실시간 보안 대응’이 각각 20.7%로 가장 높았고, ‘장애 원인 분석’(17.1%)과 ‘성능 병목 해소’(15.9%)가 뒤를 이었다. 이러한 기대는 기업이 실

• 이창현 기자
• 2025-07-17 14:12