최신뉴스 엔비디아, 개인 콘텐츠로 챗봇 개인화하는 챗 위드 RTX 지원

로컬 지포스 기반 윈도우 PC에 생성형 AI 기능 제공 엔비디아가 사용자만의 콘텐츠로 챗봇을 개인화하는 챗 위드 RTX를 윈도우 PC에서 제공한다고 밝혔다. 매일 전 세계 수백만명의 사람들이 엔비디아 GPU 기반 클라우드 서버로 구동되는 챗봇을 사용하고 있다. 이제 이 획기적인 도구를 고속의 로컬 맞춤 생성형 AI를 지원하는 엔비디아 RTX 기반 윈도우 PC에서 만나볼 수 있다. 챗 위드 RTX는 사용자가 자신만의 콘텐츠로 챗봇을 개인화하는 기술 데모다. 최소 8GB의 비디오 랜덤 액세스 메모리 또는 VRAM을 갖춘 로컬 엔비디아 지포스 RTX 30 시리즈 GPU 이상으로 가속되며 현재 무료로 다운로드가 가능하다. 챗 위드 RTX는 검색 증강생성(RAG), 엔비디아 텐서RT-LLM 소프트웨어, 엔비디아 RTX 가속화 등을 사용해 로컬 지포스 기반 윈도우 PC에 생성형 AI 기능을 제공한다. 사용자는 PC의 로컬 파일을 데이터셋으로 미스트랄이나 라마 2와 같은 오픈소스 LLM에 빠르고 쉽게 연결해 상황에 맞는 빠른 답변을 얻을 수 있다. 사용자들은 메모나 저장해둔 콘텐츠를 검색하는 대신 간단한 검색어를 입력해 챗봇을 이용할 수 있다. 예를 들어 "라스베가스에

• 서재창 기자
• 2024-02-14 09:25