AI 레드햇-구글클라우드, 엔터프라이즈용 AI 위한 협력 확대
레드햇과 구글클라우드는 레드햇의 오픈소스 기술과 구글클라우드의 맞춤형 인프라 및 구글의 개방형 모델 제품군인 젬마(Gemma)를 결합해 엔터프라이즈 애플리케이션용 AI를 향상하기 위한 협력을 확대한다고 오늘 발표했다. 양사는 AI 확장을 위한 엔터프라이즈급 사용 사례 개선을 위해 ▲오픈소스 프로젝트 ‘llm-d’ 론칭 ▲구글 클라우드 TPU 및 GPU 기반 가상머신에서 vLLM 지원 통해 AI 추론 성능 강화 ▲‘젬마 3’ 모델 배포판에서 vLLM에 대한 0일차 지원 제공 ▲구글 클라우드 상에서 레드햇 AI 인퍼런스 서버 지원 ▲레드햇이 구글 A2A 프로토콜의 커뮤니티 기여자로서 참여해 에이전틱 AI 활성화 등의 분야에서 협력할 예정이다. 젬마 3를 시작으로 레드햇은 구글의 개방형 모델 제품군인 젬마의 초기 테스터로 참여해 vLLM에 대한 즉각적인 지원을 제공한다. vLLM은 생성형 AI 애플리케이션의 출력 속도를 높이는 오픈소스 추론 서버다. 레드햇은 vLLM의 선도적 상용 기여자로서 생성형 AI 애플리케이션을 위한 보다 비용 효율적이고 반응성(responsive)이 뛰어난 플랫폼을 제공한다. 또한 구글 AI 포트폴리오를 지원하는 고성능 AI 가속기인 구글