엔비디아 타오 툴킷을 NXP eIQ 머신러닝 개발 환경에 기능적으로 결합해
NXP 반도체가 엔비디아 GTC에서 엔비디아와의 협력을 발표했다. 이로써 eIQ 머신러닝 개발 환경을 통해 엔비디아의 훈련된 AI 모델을 NXP의 광범위한 엣지 프로세싱 디바이스 포트폴리오에 배포할 수 있게 됐다.
이 협력으로 엔비디아 타오 툴킷을 NXP의 eIQ 머신러닝 개발 환경에 기능적으로 결합해 치열한 AI 업계 경쟁 속 개발 가속이 가능해졌다. NXP는 반도체 업체 최초로 AI 지원 제품 내 엔비디아 타오 API를 직접 통합했다. 이로써 개발자는 엣지에서 훈련된 AI 모델을 더 쉽게 배포할 수 있다.
AI 모델의 훈련과 배포를 간소화하는 것은 오늘날 AI 개발자가 직면한 가장 큰 과제 중 하나다. 이러한 과제를 해결하기 위해 NXP는 엔비디아와 협력해 NXP의 eIQ 머신러닝 개발 환경 내에 엔비디아 타오 API를 직접 통합했다. 엔비디아 타오 로우코드 AI 프레임워크를 사용하면 훈련된 AI 모델을 쉽게 활용하고 전이 학습을 통해 특정 용도에 맞게 미세 조정할 수 있다.
NXP의 eIQ 개발 환경은 소프트웨어, 추론 엔진, 신경망 컴파일러 그리고 최적화한 라이브러리의 조합을 통해 이러한 모델을 엣지에 쉽게 배포할 수 있도록 지원한다. 따라서 고객은 AI 개발을 가속화하고, 사전 테스트를 거친 AI 모델 라이브러리에 액세스하며, NXP의 광범위한 엣지 프로세서 포트폴리오에 AI 모델을 배포할 수 있다.
NXP의 IoT 및 산업 부문 총괄 매니저 겸 수석 부사장 찰스 닥스(Charles Dachs)는 "AI 혁신은 스마트 커넥티드 세상의 미래를 정의할 것이다. NXP가 오랜 기간 축적한 산업, IoT 엣지 혁신 역량과 AI 모델 훈련과 테스트에 대한 엔비디아의 전문성이 결합됐다. 이로써 고객이 AI 모델을 빠르고 쉽게 시장에 출시할 수 있도록 시너지 효과를 창출하고 있다"고 말했다.
엔비디아 로보틱스와 엣지 컴퓨팅 부문 부사장인 디푸 탈라(Deepu Talla)는 "엔비디아 타오는 최첨단 생성형 AI 모델을 포함한 AI 모델의 생성과 배포를 크게 간소화한다. 이번 협업을 통해 엔비디아 타오로 튜닝된 매우 정확하고 최적화된 AI 모델을 NXP의 eIQ 개발 환경에 원활하게 연결해 엣지 AI 배포를 가속화할 수 있게 됐다" 고 말했다.
NXP eIQ 머신러닝 소프트웨어 개발 환경을 사용하면 NXP의 광범위한 마이크로컨트롤러와 마이크로프로세서 포트폴리오에서 AI 알고리즘을 사용할 수 있다. 이 환경은 NXP의 MCUXpresso SDK와 Yocto Project Linux 개발 환경에 완벽하게 통합돼 있어 개발자가 완전한 시스템 수준의 애플리케이션을 쉽게 개발할 수 있다.
eIQ 머신러닝 개발 환경은 엔비디아 타오 API를 직접 통합해 모델 AI 훈련, 최적화, 배포를 위한 단일 플랫폼을 제공한다. 엔비디아 타오는 사전 훈련된 모델 컬렉션과 전이 학습을 활용해 사용자가 맞춤형 AI 모델을 구축할 수 있는 API 기반 워크플로우를 제공한다. 엔비디아 타오는 추론 처리량을 증가시키는 모델 프루닝(model pruning)과 같은 여러 가지 최적화 기능을 제공한다.
이 협업으로 개발 속도를 높이고 엔비디아의 사전 훈련된 모델을 i.MX 93 애플리케이션 프로세서와 같은 NXP SoC의 신경망처리장치(NPU)에서 실행하게 됐다.
헬로티 서재창 기자 |
