최신뉴스 온 디바이스 강조한 퀄컴 “생성형 AI 대중화 위한 준비 완료”

"연말까지 100억 개 파라미터 지원 및 생산성 보장된 모델, 폼팩터 제공할 것" 퀄컴코리아가 지난 21일 서울 교보생명빌딩 15층에서 ‘The Future of AI is ‘On-device’를 주제로 미디어 라운드테이블을 진행했다. 이번 미디어 라운드테이블에서는 비네쉬 수쿠마(Vinesh Sukumar) 퀄컴 테크날러지 시니어 디렉터 겸 AI/ML 제품 관리 총괄이 참석해 엣지 디바이스에서 구동하는 AI 기술과 함께 온 디바이스 AI 기술을 기반으로 엣지 폼팩터부터 클라우드까지 확장되는 생성형 AI에 대해 발표했다. 오늘날 생성형 AI는 전 산업이 주목하는 기술이 됐다. 오픈AI의 챗GPT 공개 이후 초거대 AI를 기반으로 한 생성형 AI 서비스가 폭발적으로 증가하는 추세다. 반면 생성형 AI는 유즈 케이스가 확장하기 쉽지 않을 것이라는 의견이 나온다. 유저 수와 비례해 급증하는 데이터를 처리하기 위해서는 엄청난 비용이 뒤따르기 때문이다. 퀄컴은 생성형 AI 경쟁력을 확보하기 위해 온 디바이스에 많은 투자를 진행했다고 밝혔다. 이에 비네쉬 수쿠마 총괄은 "엣지에서 거대 AI 모델을 지원하는 인프라가 필요하다. 퀄컴은 올해 말까지 100억 개 파라미터를 지

• 서재창 기자
• 2023-09-22 15:46