IntelがNVIDIAに対抗して発表したAIアクセラレータ「Gaudi 3」の実物写真が公開中

Intelが2024年4月にAIアクセラレータ「Gaudi 3」を発表しました。ハードウェア系ニュースサイト・ServeTheHomeが、前世代のGaudi 2やNVIDIAのH100よりも高い性能を発揮するというGaudi 3を実際に会場で見てきたとして、そのレポートを公開しています。

This is Intel Gaudi 3 the New 128GB HBM2e AI Chip in the Wild
https://www.servethehome.com/this-is-intel-gaudi-3-the-new-128gb-hbm2e-ai-chip-in-the-wild-intel-vision-2024/

Intelは、Gaudi 3がAI学習性能とAI推論性能の両面でNVIDIAのAI特化GPU「H100」よりも高い性能を発揮すると述べており、2024年後半に量産を開始する予定であることを明らかにしています。

IntelがAIアクセラレータ「Gaudi 3」を発表、NVIDIAのH100より高速かつ低消費電力で一部テストではH200にも勝利 - GIGAZINE

ケネディ氏はGaudi 3が発表されたイベント「Intel Vision 2024」に参加しており、会場でGaudi 3の実物を手に取る様子をムービーで公開しています。

Intel Gaudi 3 AI Accelerator with 24x 200GbE #ai - YouTube


GaudiはもともとHabanaという企業が開発したチップで、2019年後半にリリースされました。Habanaは同タイミングでIntelに買収されており、Intelは同時期に開発を進めていたAI向けチップ「Nervana」シリーズのプロジェクトを中止することを発表し、Habanaの製品に注力する姿勢を示しました。

IntelがAI向けチップ「Nervana」製品の開発を正式発表からわずか2カ月で中止すると決断 - GIGAZINE

2020年に発表された前世代のGaudi 2は7nmプロセスで設計されていますが、Gaudi 3は5nmプロセスで設計されています。前世代と比較してGaudi 3は演算能力と帯域幅が大幅にアップグレードされています。

以下の写真の左がGaudi 3で、右がGaudi 2。Gaudi 3の方が、シリコンパッケージのサイズが大きいことが見比べるとよくわかります。

シリコンパッケージは2つのダイで構成されており、それぞれに48MBのSRAM、16個のTPC(テンソル処理コア)、メディアエンジンが搭載されています。

実際のGaudi 3のシリコンパッケージはこんな感じ。

Gaudi 3を8基搭載したボード。Gaudi 3のOCP Accelerator Module(OAM)版のTDPは900Wとのことで、他の部品を無視しても合計約7200Wに達するとのこと。

OAM版Gaudi 3の底部が以下の写真。

Gaudiはもともと「イーサネットを使用してスケーリングする」という概念がHabanaからの重要なコンセプトだったそうです。2024年時点では、ネットワークスイッチの速度ははるかに高速になっています。Gaudi 1の時代には32ポート100GbEがまだかなりハイエンドで、ネットワーク帯域幅は制限されていました。OAM版Gaudi 3は24レーンのうち21レーンを使用し、3× 200GbEを使用して他の7つのGaudi 3に接続します。残りの3x 200GbE接続は、背面にあるOSFPコネクタに供給されます。

Gaudi 3を8基搭載したSupermicro X14サーバーもIntel Vision 2024の会場でお披露目されました。背面中央に6つのOSFPコネクタがあります。

Gaudi 3は空冷式と水冷式が用意されるとのことで、量産品は空冷式が2024年第3四半期(7月～9月)、水冷式が2024年第4四半期(10月～12月)にリリースされる予定だとのことです。