아마존 EC2 인스턴스 비롯해 트레이니움2 울트라서버, 차세대 트레이니움3 칩도 공개 아마존웹서비스(AWS)는 오늘 AWS 리인벤트(re:Invent)에서 AWS 트레이니움2 칩 기반의 아마존 EC2 인스턴스를 공식 출시했다고 발표했다. 이와 함께 거대언어모델(LLM) 및 파운데이션 모델(FM)의 학습과 추론을 지원하는 트레이니움2 울트라서버와 차세대 트레이니움3 칩도 함께 공개했다. 아마존 EC2 Trn2 인스턴스(이하 Trn2 인스턴스)는 16개의 트레이니움2 칩을 탑재하여 최대 20.8 페타플롭스(PF)의 연산 성능을 제공한다. 이는 수십억 개의 매개변수를 가진 LLM의 학습 및 배포에 적합하다. Trn2 인스턴스는 동일한 비용으로 기존 GPU 기반 EC2 P5e 및 P5en 인스턴스 대비 30~40% 더 나은 가격 대비 성능을 제공하며, 메모리 대역폭도 크게 개선되어 비용 효율성이 뛰어나다. 아마존 EC2 Trn2 울트라서버(이하 Trn2 울트라서버)는 완전히 새로운 EC2 제품군으로, 초고속 뉴런링크(NeuronLink) 기술을 사용해 64개의 트레이니움2 칩을 연결하여 최대 83.2 피크 페타플롭스의 연산 성능을 제공한다. 이는 단일 Trn2 인스
고객 워크로드에 대한 개선된 가격 대비 성능과 에너지 효율성 제공 아마존웹서비스(이하 AWS)는 오늘 AWS의 연례 컨퍼런스 AWS 리인벤트 2023에서 차세대 자체 설계 칩 제품군인 'AWS 그래비톤4(AWS Graviton4)'와 'AWS 트레이니움2(AWS Trainium2)'를 발표했다. 그래비톤4와 트레이니움2는 머신러닝(ML) 트레이닝과 생성형 인공지능(AI) 애플리케이션을 포함한 광범위한 고객 워크로드에 대한 개선된 가격 대비 성능과 에너지 효율성을 제공한다. AWS는 각 칩 세대마다 더 나은 가격 대비 성능과 에너지 효율을 제공하며, 고객에게 AMD, 인텔, 엔비디아와 같은 타사의 최신 칩이 포함된 칩·인스턴스 조합 외에도 다양한 선택권을 제공해 거의 모든 애플리케이션 또는 워크로드를 아마존 EC2에서 실행하도록 지원한다. 그래비톤4는 기존 그래비톤3 프로세서 대비 최대 30% 향상된 컴퓨팅 성능, 50% 더 많은 코어, 75% 더 많은 메모리 대역폭을 제공해 아마존 EC2에서 실행되는 워크로드에 최고의 가격 대비 성능과 에너지 효율성을 제공한다. 트레이니움2는 1세대 트레이니움 칩 대비 최대 4배 빠른 학습 속도를 제공하도록 설계됐으며, 최대