AppleはAmazon製のTrainiumとGravitonチップで検索サービスを提供中、Trainium2チップをAIモデルの事前トレーニングに使用できるかどうかも評価中であることを明かす

Amazonが2024年12月3日に開催されたAmazon Web Services(AWS)のイベント「AWS re:Invent 2024」にて、AIトレーニング用チップ「Trainium2」の一般提供を開始したことを発表しました。イベントにはAppleの幹部も登壇し、AppleでのAmazon製チップの使用例について報告しています。

Amazon EC2 Trn2 Instances and Trn2 UltraServers for AI/ML training and inference are now available | AWS News Blog
https://aws.amazon.com/jp/blogs/aws/amazon-ec2-trn2-instances-and-trn2-ultraservers-for-aiml-training-and-inference-is-now-available/

AWS-Trainium2-Instances-Now-Generally-Available - US Press Center
https://press.aboutamazon.com/2024/12/aws-trainium2-instances-now-generally-available

Apple says it uses Amazon's custom AI chips
https://www.cnbc.com/2024/12/03/apple-says-it-uses-amazons-custom-ai-chips-.html

Amazon AI chips may help train Apple Intelligence in the future
https://appleinsider.com/articles/24/12/03/apple-considers-using-amazon-chips-to-train-future-apple-intelligence-models

Exclusive | Amazon Announces Supercomputer, New Server Powered by Homegrown AI Chips - WSJ
https://www.wsj.com/articles/amazon-announces-supercomputer-new-server-powered-by-homegrown-ai-chips-18c196fc

イベントの中でAmazonは、2023年11月に発表されたAIトレーニング用チップ「Trainium2」の一般提供を開始したことを発表。Trainium2は機械学習チップ「Trainium」の最新版で、従来に比べてトレーニングが最大で4倍高速になることが特徴です。今回のイベントでは単一のインスタンスにTrainium2チップを16個搭載した「Amazon EC2 Trn2インスタンス」で利用可能なほか、64個のTrainium2を搭載した「Amazon EC2 Trn2 UltraServers」も一般提供されることが報告されています。

AmazonがAWS向けのプロセッサ「Graviton4」とAIトレーニング用チップ「Trainium2」を発表 - GIGAZINE

Amazon EC2 Trn2 UltraServersについてAWSのコンピューティングおよびネットワーキング担当バイスプレジデントであるデイビッド・ブラウン氏は「AIモデルのパラメーター数が数兆になりつつある中、これらの大規模なワークロードをトレーニングして実行するための新たなアプローチもお客様にとって必要であることを理解しています。新しいTrn2 UltraServerは、AWS上で最速のトレーニングと推論パフォーマンスを提供し、あらゆる規模の組織が世界最大のモデルをより迅速かつ低コストでトレーニングおよびデプロイするのに役立ちます」と述べています。

イベントにはAppleの機械学習およびAI担当シニアディレクターのブノワ・デュパン氏も登壇し、AppleがAWSをどのように使用しているかについて語りました。デュパン氏によると、Appleは10年以上にわたりAWSをSiriやApple Maps、Apple Musicなどのサービスに使用しているほか、AmazonのAIチップInferentiaやGravitonを検索サービスに使用しているとのこと。実際にデュパン氏は、これらのAIチップの導入により40％の効率向上につながったことを報告しています。

さらにデュパン氏は、Trainium2が独自のAIモデルの事前トレーニングに役立てられるかどうかを評価中であることを明らかにしました。デュパン氏は「Trainium2の評価の初期段階では、事前トレーニングによる効率が最大50％向上すると予想しています」と述べました。実際にAWSのマット・ガーマンCEOは、海外メディアのCNBCに対してAppleがTrainium2のベータテスターであることを明かしており、「以前Appleは我々の元を訪れ、『私たちのジェネレーティブAI機能をどのように支援することができますか。AIの構築には適切なインフラストラクチャが必要です』と訴えたことを伝えています。

デュパン氏はAmazonについて「私たちは強力な関係を築いています。Amazonのインフラストラクチャは信頼性が高く、世界中のお客様に高品質なサービスを提供することが可能です」と述べました。

Amazonはさらに、3nmプロセスノードで構築された「Trainium3」を2025年後半に提供することを明らかにしたほか、大規模言語モデル「Claude」などを開発するAI企業・Anthropicと共同で「プロジェクト・レイニア」と名付けられたTrn2 UltraServerのクラスター「EC2 UltraCluster」を構築中であることを明らかにしました。

Amazonによると、EC2 UltraClusterは数十万個ものTrainium2を使用しており、処理性能はAnthropicが使用するクラスターの5倍以上とのこと。Amazonは「EC2 UltraClusterが完成すれば、これまでに報告された世界最大のAIコンピューティングクラスターとして、Anthropicが将来のモデルを構築およびデプロイできるようになるでしょう」と語りました。

また、ウォール・ストリート・ジャーナルによるとこうしたAWSの取り組みは、テキサス州オースティンの「Annapurna Labs」で進められているとのことです。

AmazonがNVIDIAへの依存を減らすため独自AIチップを開発させている「Annapurna Labs」とは？ - GIGAZINE