NVIDIAがAIエージェント向けCPU「Vera」の詳細を公開、独自設計コアを88基搭載しDeepInfraの実測ではSapphire Rapids比2.2倍

NVIDIAがAIエージェントやAIデータセンター向けに開発したCPU「NVIDIA Vera CPU」の詳しい設計を公開しました。VeraはNVIDIAが独自設計したデータセンター向けCPUコア「Olympus」を88基搭載し、合計176スレッドを処理可能。Veraはすでに量産段階に入っており、2026年秋からシステムメーカーやクラウド事業者を通じて提供される予定で、DeepInfraやCoreWeaveによる実機のベンチマーク結果も公開されています。

NVIDIA Vera Rubin Driving Performance Per Watt, Lowest Token Costs for Partners Worldwide | NVIDIA Blog
https://blogs.nvidia.com/blog/vera-rubin/

NVIDIA Vera CPU: Olympus Cores Built for Maximum Single-Thread Performance in Agentic AI | NVIDIA Technical Blog
https://developer.nvidia.com/blog/inside-nvidia-vera-cpu-olympus-cores-built-for-maximum-single-threaded-performance-in-agentic-ai

AIエージェントではGPUがAIモデルの計算を担当する一方で、外部ツールの呼び出しや処理順序の管理、データの移動といった仕事は主にCPUが担当します。CPU側の処理に時間がかかると高価なGPUが次のデータを待つ時間も長くなります。NVIDIAのAIインフラ部門は「AIエージェントの速度はCPUの速度に左右されるため、CPUを設計し直した」とXで説明しています。

NVIDIAはデータセンター向けCPUとして既に「NVIDIA Grace CPU」を展開しています。GraceがArmのNeoverse V2コアを採用していたのに対し、VeraではNVIDIAが独自に設計したOlympusコアを採用しました。Veraという製品名や88コアなどの基本仕様は以前から発表されており、2026年7月21日の発表ではOlympusの内部構造やメモリ構成、実機性能が詳しく明かされた形です。

NVIDIAがAI特化GPU「Rubin」とAI特化CPU「Vera」の詳細を発表、AIラック「Vera Rubin NVL72」の処理性能はFP64精度で2400TFLOPS＆Groqの高速推論チップも統合 - GIGAZINE

AIエージェントの制御処理では、検索結果に応じて次に呼び出すツールを変えたり、コードの実行結果を待って次の手順へ進んだりします。同じ計算を大量に並べる処理とは異なり、条件分岐や前後関係のある処理が多いため、コア数だけでなく1スレッド当たりの処理速度が重要になります。

Olympusは1クロック当たり最大10命令をデコードする機構と処理の分岐先を予測するニューラル分岐予測機構を搭載したほか、前の命令が終わるのを待たず実行可能な命令を先に進めるアウト・オブ・オーダー実行にも対応。グラフ状のデータ構造を先読みする専用機構も備えており、データベースや検索インデックスなどをたどる際の待ち時間を減らす狙いがあります。

AIエージェントを大量に動かすサーバーでは、エージェント本体の処理と同時に通信やログ記録、メモリ管理なども実行する必要があります。Veraは1基のOlympusコアで2スレッドを動かす「NVIDIA Spatial Multithreading」を採用し、88コアで合計176スレッドに対応しました。

一般的な同時マルチスレッディングでは、2本のスレッドがコア内部の同じ資源を取り合って一方の処理が遅くなる場合があります。Spatial Multithreadingはコア内部の資源を分割して各スレッドへ割り当てることで、負荷が高まった場合でも処理時間が不安定になる問題を抑えるとのこと。

高速なCPUコアを搭載しても、メモリからデータが届かなければ処理は止まってしまいます。Veraは88基のコアやキャッシュ、メモリコントローラーを接続する「NVIDIA Scalable Coherency Fabric」を搭載し、ダイ上で最大3.4TB/sのデータ転送帯域を確保しています。全コアで共有するL3キャッシュは164MBです。

メインメモリには交換可能なSOCAMM2形式のLPDDR5Xを採用し、最大1.5TBの容量と1.2TB/sの帯域幅に対応します。低消費電力のLPDDR5Xを使いながら、故障時や容量変更時にメモリモジュールを交換できる構成。Grace CPU1基と比べて最大メモリ容量は約3倍、帯域幅は約2.4倍に増えています。

VeraはCPU単体のサーバーにも搭載できますが、Rubin GPUと組み合わせたAIデータセンター向けシステムのホストCPUとしても利用されます。第2世代のNVIDIA NVLink-C2CはCPUとGPUを最大1.8TB/sで接続し、CPUとGPUの間でデータを何度もコピーする負担を軽減。ラック型システム「NVIDIA Vera Rubin NVL72」には36基のVera CPUと72基のRubin GPUが収められます。

実際の性能を確かめるため、AIクラウドを運営するDeepInfraはVeraとAMD Zen 5ベースのTurin、Intel Granite Rapids、Intel Sapphire Rapidsを比較しました。

DeepInfraは実際のサービスで記録したAIエージェントの処理を再生し、分岐の多い制御処理やコード実行環境の起動、メモリ帯域を使うデータ処理を測定。測定中は大規模言語モデルによる新たなトークン生成を行わず、モデル出力のばらつきが結果に影響しないようにしたとのこと。

比較対象は物理20コアかつ1コア1スレッドに統一されています。ベアメタルに近い環境でAIエージェントの制御処理にかかった時間はVeraが29ミリ秒、AMD Zen 5が35ミリ秒、Granite Rapidsが51ミリ秒、Sapphire Rapidsが64ミリ秒でした。VeraはSapphire Rapidsの約2.2倍、比較したx86 CPUで最速だったAMD Zen 5の約1.2倍の性能を記録したことになります。

同じ応答品質を保ちながら同時に動かせるAIエージェント数を調べたテストでは、Veraが256エージェントを処理したのに対し、比較対象は160エージェントで、Granite Rapidsのみ最良の測定で192エージェントに達しました。Veraの1ソケット全体では574以上のエージェントを動かしても設定された応答時間を超えず、Spatial Multithreadingを有効にすると高負荷時の処理量が20.5％増加したとのことです。

CoreWeaveはVera CPU単体ではなく、Vera Rubin NVL72ラック全体の実測結果を公開しています。推論モデル「DeepSeek-R1」を使い、利用者が感じる応答速度を同程度にそろえて比較したところ、Vera Rubin NVL72は従来のNVIDIA GB200 NVL72と比べて1メガワット当たりのトークン生成速度が最大10倍になりました。電力供給量を増やさず、より多くのAI処理を実行できることを示す数値です。

NVIDIAはVera Rubin NVL72の生産を拡大しており、CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureでは既にラックの検証や導入準備が進められています。Vera搭載システムは2026年秋からシステムメーカーやクラウド事業者を通じて提供される予定。CoreWeaveは今回の測定値を出発点として最適化を続け、新たな結果も公開していくと述べています。