「NVIDIAの世界最小スパコン」ことDGX Sparkを実際に使ってみた海外レビューまとめ

2025年10月15日、NVIDIAが「世界最小のスーパーコンピューター」をうたう「DGX Spark」を発売しました。このDGX Sparkを実際に使用した海外メディアが早速レビューを公開しているので、実際の使用感などに関する情報をまとめてみました。

A Grace Blackwell AI supercomputer on your desk | NVIDIA DGX Spark
https://www.nvidia.com/en-us/products/workstations/dgx-spark/

NVIDIAが発表したDGX Sparkは、最大1PFLOPSのNVIDIA GB10 Grace Blackwell Superchip、128GBの統合メモリなどを搭載した手のひらサイズのコンパクトなスーパーコンピューターです。単一ポートで800Gbpsというデータ転送速度を実現するNVIDIA ConnectX-8 SuperNICも搭載しており、販売価格は3999ドル(約60万円)となっています。

NVIDIAがデスクトップPCサイズのAIスパコン「DGX Spark」と「DGX Station」を発表、Blackwell世代のAI特化GPUを搭載し個人環境でローカルAI開発が可能 - GIGAZINE

DGX Sparkの発売を記念して、NVIDIAのジェンスン・フアンCEOはイーロン・マスク氏にDGX Sparkの最初のユニットを届けています。なお、DGX Sparkは2016年にフアンCEOがOpenAI向けに作成した史上初のAIコンピューターであるDGX-1よりも、「ワット当たり約100倍の計算能力を有している」とマスク氏はアピールしました。

The Registerは「NVIDIAの世界最小スーパーコンピューターであるDGX Sparkは、大規模言語モデル(LLM)を安定した速度で処理できます」というタイトルでレビュー記事を公開しており、世界最速のGPUを搭載しているというわけではないものの、「すべてが十分に上手く動作する」と評しています。

DGX Spark Nvidia's desktop supercomputer: first look • The Register
https://www.theregister.com/2025/10/14/dgx_spark_review/

The Registerは、LLMによる推論やファインチューニング、画像生成といった分野でもNVIDIAの最新GPUであるRTX 5090に劣ると言及。しかし、DGX Sparkは現状市場に出回っているコンシューマー向けのグラフィックボードでは到底実行できないようなAIモデルを、快適に実行できると説明しています。

ローカルAI開発において、どんなにCPUやGPUの性能が高くても、メモリ帯域幅が広くても、十分なVRAMがなければまともにAIモデルを稼働させることができません。DGX Sparkはこれを実現するために128GBの統合メモリを搭載しており、これはNVIDIA製ワークステーションのGPUが搭載しているVRAMの中では最大の容量です。ただし、128GBの統合メモリはLPDDR5Xを採用しており、これはNVIDIAのRTX 50シリーズで採用されているGDDR7と比べると非常に遅いです。

最大2000億パラメーターのAIモデルで推論を実行するといったAIワークロードには、通常、複数のハイエンドGPUが必要となり、これには数百万円のコストが必要となります。しかし、NVIDIAはパフォーマンスと帯域幅を少し犠牲に、純粋なキャパシティを確保することで「特定の処理では最速ではないものの、あらゆる処理を実行できるシステム(DGX Spark)を構築しました」とThe Registerは説明しました。

DGX Sparkのサイズはわずか幅150mm×奥行き150mm×高さ50.5mmです。前面の金属製メッシュパネルから空気を取り込み、背面から排出するという標準的なフロースルーデザインを採用しているため、すべてのI/Oが背面に配置されています。

SoCのNVIDIA GB10 Grace Blackwell Superchipは、TSMCの3nmプロセスで製造されています。

CPUにはNVIDIAの上位モデルで使用されているARM Neoverseは採用しておらず、高性能コアにARM Cortex-X925を10基、高効率コアにARM Cortex-A725を10基搭載しています。

GPUはNVIDIAのRTX 50シリーズと同じBlackwellアーキテクチャを採用しており、パフォーマンスはFP4精度で1PFLOPSです。

OSはUbuntu 24.04のカスタムOSであるNVIDIAのDGX OSを搭載しています。

DGX Sparkは機械学習や生成AI、データサイエンスといったワークロードに特化したコンピューターです。これらの分野は以前ほど難解ではないものの、初心者にとっては依然として理解しにくいものであるとThe Registerは指摘しています。しかし、DGX Sparkのソフトウェアエコシステムでは、これらの分野のワークロードをすぐに開始できるように、ドキュメントやチュートリアル、デモンストレーション動画などが大量に用意されているとのこと。

The Registerは「DGX Sparksの真の競合相手は、コンシューマー向けGPUやワークステーション向けGPUではなく、AppleのM4搭載Mac MiniやMac Studio、あるいはAMDのRyzen Al Max＋ 395搭載システムなどです」「生産性向上やコンテンツ制作、ゲーム開発などあらゆる用途に対応できる小型で低消費電力のAI開発プラットフォームを探している場合、恐らくDGX Sparksは適していません。AMDのStrix HaloやMac Studioなどに投資するか、WindowsにNVIDIA GB10 Grace Blackwell Superchipが搭載されるまで待つ方が賢明でしょう。しかし、機械学習に主な焦点を置き、比較的手ごろな価格のAIワークステーションを探している場合は、DGX Sparksほど多くの条件を満たしたデバイスは少ないでしょう」と指摘しました。

データサイエンティストのBojan Tunguz氏は、「DGX Sparksはあらゆる地域のデータサイエンス、機械学習、AI開発者の夢です。このコミュニティが望んでいたローカル開発の熱を再び燃え上がらせることができる小型コンピューターで、非常に魅力的なフォームファクタ―に、NVIDIAのハードウェアとソフトウェアのメリットをフルに活用できます。長年、私は仕事用のメインノートPCに加えて、RTX 5000を搭載した巨大なDellのワークステーションを持ち運ばなければいけませんでした。しかし、ついにあの重たいマシンを家に置いて、この小型のスーパーコンピューターを持っていくことができます」と投稿しています。

Honey, I've Shrunk the Supercomputer! - by Bojan Tunguz
https://bojan.substack.com/p/honey-ive-shrunk-the-supercomputer

Datasetteの開発者であるSimon Willison氏は、DGX Sparkを「優れたハードウェアとエコシステムの初期段階」と表現しています。ただし、Willison氏は「このマシンに関して自信を持って推奨するにはまだ時期尚早です。CUDA、ARM64、Ubuntu GPUマシン全般に関する私自身の経験不足が理由で、このマシンをどう活用するのが最適かを見極めるのに苦労しました」とも記しています。

NVIDIA DGX Spark: great hardware, early days for the ecosystem
https://simonwillison.net/2025/Oct/14/nvidia-dgx-spark/

オープンかつスケーラブルなLLMの開発を推進するLMSYS Orgは、「DGX Sparkは、そのサイズと電力エンベロープに対して優れたエンジニアリングを実証していますが、当然のことながら、その生のパフォーマンスは、フルサイズのディスクリートGPUシステムと比較すると制限されています」と指摘。小規模なAIモデルの場合は十分なパフォーマンスを発揮できるものの、大規模なAIモデルではNVIDIA RTX PRO 6000 Blackwell Workstation EditionやGeForce RTX 5090と比較すると、パフォーマンスが低いと指摘。そのため、LMSYS Orgは「DGX SparkはフルサイズのBlackwell GPUやAda-Lovelace GPUと真っ向から競合するために設計されたのではなく、DGXエクスペリエンスをコンパクトで開発者にとって使いやすいフォームファクターに組み込むために設計されたものです。そのため、『AIモデルのプロトタイピングと実験』『軽量なデバイス内推論』『メモリコヒーレントGPUアーキテクチャの研究』といった用途に最適です」と記しています。

NVIDIA DGX Spark In-Depth Review: A New Standard for Local AI Inference | LMSYS Org
https://lmsys.org/blog/2025-10-13-nvidia-dgx-spark/

ニューヨーク大学の科学者であるKyunghyun Cho氏は、「発売日にDGX Sparkを手に入れたくてたまらなかったです。デスクに置ける小さくてパワフルなマシンで、ほぼどんなサイズの最新のオープンソースAIモデルも動作させることができます。NVIDIAのおかげで数週間前に夢が叶い、ニューヨーク大学のグローバルAIフロンティアラボにある私のデスクに置かれている可愛い姿を見て！」と興奮気味に投稿しています。

ICAREをDGX Spark上で動作させることにも成功しており、Cho氏は「臨床医の机上にスーパーコンピューターが置かれる可能性を示しています」と記しています。

他にも、最新の論文を使用して、LLMの因果理解をローカルでテストしており、「オープンウェイトモデルを自分たちで迅速かつ効果的にローカルで評価することができました」と記しています。

Lily Liu氏は「DGX Sparkで仮想LLMを使ってgpt-oss-20Bを立ち上げることに成功しました」「これは厳密なベンチマークではありませんが、初期のテスト結果は有望に見えました」と報告しています。

「NVIDIAのDGX Sparkを受け取ったYouTuberの中で、M4 Max搭載MacBook Proとパフォーマンスを比較した人はひとりもいません。価格がほぼ同じにもかかわらずです。その理由は、MacBook Proの帯域幅は546GB/sであるのに対して、DGX Sparkはわずか273GB/sだからです」という指摘もあります。

また、DGX SparkとM3 Max搭載Macでgpt-oss-120bを動作させた場合の、1秒間に生成できるトークンの数を比較したデータを引用して、「これは非常に悪い結果です。Ollama(ローカルAIプラットフォーム)の性能が低いことや、メモリ帯域幅の違い(DGX Sparkが273GB/sで、M3 Maxが400GB/s)だけで説明できる結果ではありません」と指摘する人もいました。

PC販売チェーンのMicro Centerは、間もなく発売されるDGX Sparkの開封動画を公開しています。

NVIDIA DGX Spark Unboxing and First Impression | Micro Center - YouTube