NVIDIAの業務用GPUとAIチップを搭載した激安AIサーバーを入手して家庭用AIマシンを作ってしまった記録が話題に

NVIDIAのハイエンドGPU「H100」やAI処理チップ「GH200」は基本的にデータセンター向けに販売されている製品で、個人での入手は困難です。そんなH100やGH200を搭載したサーバーを非常に安い価格で購入して自宅用AIデスクトップPCに仕立て上げた記録をAI研究者のDavid Noel Ng氏が公開しています。

Building a High-End AI Desktop | David Noel Ng
https://dnhkng.github.io/posts/hopper/

H100やGH200を搭載したサーバーは1台当たり1000万円を超える価格で取引されています。ところが、David氏は2025年初頭にRedditで「H100とGH200を2基ずつ搭載したサーバー」が1万ユーロ(約180万円)という非常に安い価格で売られているのを発見しました。販売されていたサーバーのスペックは以下の通り。

・Nvidia Grace-Hopper Superchip(GH200) 2基
・72コアNvidia Grace CPU 2基
・Nvidia Hopper H100 Tensor Core GPU 2基
・480GBのECC対応LPDDR5Xメモリ 2基
・96GBのHBM3メモリ2基
・900GB/sのNVLink-C2C
・3000Wの電源
・TDPは1000W～2000W

サーバーが安い理由は「水冷から空冷に改造されたシステムで、見た目も悪く、ラックマウントに設置不能だから」と説明されていました。David氏は最初は怪しく思ったそうですが、サーバーを販売している人物がNVIDIAのデータセンター向けサーバーを個人向けに改造して販売している「GPTshop.ai」というオンラインストアの管理人であることや、その人物がDavid氏の自宅から車で2時間の位置に住んでいることを知り、車で現地に赴いて現金取引することに決定。David氏はGPTshop.aiの工房を見学した後、サーバーを7500ユーロ(約140万円)で購入して持ち帰りました。

持ち帰った直後のサーバーが以下。内部までホコリまみれになっているほか、デュアルファンモジュールを8基搭載しており、電源を入れるとすべてのファンが全力で回転して大音量の高音ノイズを発したとのこと。ノイズはサーバーを置いた地下室から50メートル離れた位置からも聞こえるほど大きく、在宅勤務の妻から「リモート会議に支障が出る」という理由で使用を禁止されるほどでした。

David氏はサーバーを分解してホコリを吸引し、数リットルのイソプロパノールを用いた拭き掃除も実施しました。

空冷システムから水冷システムへの換装も実施しました。水冷システムは市販の「Liquid Freezer III 420」を採用。GH200用のアダプターは3Dプリンターで試作しながら自分で設計し、最終的に設計データを業者に送ってCNC加工された完成品をサーバーに組み込みました。

実用化へのテストを繰り返している最中に、サーバーから「ポンッ、シューッ」という音が鳴り、煙たい匂いが漂い始めたとのこと。これはマザーボードのファンコネクターが原因だったそうで、はんだ付けを伴う修理作業を経て解決に至りました。

最終的に完成したマシンが以下。PCケースや各種マウンターもDavid氏によるオリジナルのものです。

完成したマシンでOpenAIが公開しているAIモデル「gpt-oss-120b-Q4_K_M」を実行した結果、毎秒195.84トークンという高速な出力に成功しました。gpt-oss-120b-Q4_K_Mを家庭用マシンで動作させる場合、高性能なマシンでも毎秒十数トークン程度しか出力できないため、文字通り桁違いの性能であることが分かります。

なお、サーバーを含めた材料費の合計は9000ユーロ(約170万円)だったとのこと。David氏は「メモリが高騰した今なら、サーバーに含まれている『480GBのECC対応LPDDR5Xメモリ 2基』だけでサーバー全体の価格を超えてしまう」とコメントしています。