클라우데라가 실시간 기업 데이터를 활용해 AI의 가치를 실현할 수 있도록 지원하는 RAG 스튜디오(RAG Studio)를 12일 공개했다.
새로운 RAG 스튜디오는 고객이 실시간 기업 데이터를 사용해 몇 분 안에 RAG 챗봇을 배포할 수 있도록 지원한다. RAG 스튜디오는 코드가 필요 없기 때문에, 기술 전문가가 아니어도 AI 애플리케이션을 쉽게 사용할 수 있다.
이는 비즈니스, IT 팀 간 AI 개발 협력 강화, 더 많은 사용자가 AI 도구를 활용할 수 있도록 한다. RAG 스튜디오는 온프레미스 또는 클라우드에서 안전하고 신뢰할 수 있는 실시간 데이터를 활용해 기업이 최첨단 기술을 통해 AI의 가치를 실현할 수 있도록 지원한다.
AI 챗봇은 AI 서비스 중 가장 널리 사용되지만 기업들은 부정확한 응답으로 인한 리스크에 지속적으로 노출되고 있다. 챗GPT의 경우 어떤 작업을 하느냐에 따라 성공률이 0.66%에서 89%까지 크게 달라지는 것으로 나타났다.
RAG는 검색 기반 시스템과 생성형 AI의 강점을 결합한 강력한 AI 패러다임으로서 개선된 설명가능성과 신뢰도를 통해 향상된 정확도와 문맥 관련성을 제공한다. RAG 지원 챗봇은 일반적인 정보에 의존하지 않고 실시간 기업별 데이터를 기반으로 질문에 답하기 때문에 AI 환각 현상을 현저히 줄여준다.
고객은 현재 하이브리드 및 멀티 클라우드 생태계 전반에 걸쳐 정형 및 비정형 데이터가 모두 분산되어 있는 복잡하고 데이터가 풍부한 환경에 놓여있다. RAG 스튜디오는 이러한 데이터를 AI 워크플로우에 통합해 동적 검색과 상황에 맞는 응답을 지원함으로써 이를 효과적으로 활용할 수 있도록 지원한다.
또한 기업에서 AI 솔루션을 확장하면 높은 컴퓨팅 비용, 복잡한 모델 재교육, 강력한 거버넌스 보장과 같은 문제가 수반되는 경우가 많다. RAG 스튜디오는 컴퓨팅 집약적 생성 모델에 대한 의존도를 줄이고, 클라우데라 플랫폼과 통합돼 비용 효율적이고 안전한 AI 워크플로우를 제공하며, 지속적인 모델 미세 조정을 제거해 이를 해결한다.
의료, 금융, 정부와 같이 규제가 엄격한 산업의 조직들은 신뢰할 수 있는 AI 솔루션이 필요하다. RAG 스튜디오는 생성된 결과물을 조직에서 승인한 데이터 소스에 직접 연결해 설명 가능성 및 추적 가능성을 내장함으로써 클라우데라의 AI 스택을 강화한다. 이를 통해 검증 가능하고 감사 가능한 데이터를 기반으로 AI 의사결정을 내리고 AI 기반 추천에 대한 투명한 추론을 제공한다.
아바스 리키 클라우데라 최고 전략 책임자(CSO)는 “신속한 고객 지원부터 정보 기반 제품 기반까지 RAG 스튜디오의 이점은 비즈니스 전반에 유효하다”며 “노 코드 RAG 스튜디오는 빠른 프로토타입 제작, 사전 구축된 통합, 운영 효율성을 제공하고 AI 전략을 올바르게 수립하고자 하는 기업들의 효율적인 도구로 기업용 AI를 가속할 것”이라고 설명했다.
헬로티 이창현 기자 |
