ハードウェア

Appleが使われていないMacを集めて仮想GPUクラウドを構築する「Minions」を開発、AI処理の待ち時間を10時間以上から数分に短縮


Appleの研究チームが、使われていないMacのGPUをネットワーク経由で集約し、AIの処理に活用する分散型システム「Minions」を開発しました。MinionsはすでにApple社内で運用されており、従来は10時間以上かかることもあったGPUの利用待ち時間を数分に短縮できたと報告されています。

Minions: A Dynamic and Distributed Virtual GPU Cloud Built on Idle Apple Silicon Devices
https://arxiv.org/html/2610.12970v1

Apple researchers turn idle Macs into a virtual GPU cloud with ‘Minions’ — researchers say the distributed scheme could scale globally and support model training | Tom's Hardware
https://www.tomshardware.com/tech-industry/artificial-intelligence/apple-researchers-turn-idle-macs-into-a-virtual-gpu-cloud-with-minions-researchers-say-the-distributed-scheme-could-scale-globally-and-support-model-training

AIモデルを動かすためには大量の計算処理が必要で、特にGPUは重要な役割を担っています。しかし、AI向けGPUは高価で、企業内で複数のチームが限られたGPUを共有している場合、処理を始めるまでに長い待ち時間が発生することがあります。一方、Apple Siliconを搭載したMacには高性能なGPUが内蔵されているものの、日常的な作業ではその処理能力の多くが使われていません。


そこでAppleの研究チームが開発したのが「Minions」です。Minionsは社内にある複数のMacの空きGPUリソースを集め、仮想的なGPUクラウドとして利用する仕組みです。新たなGPUサーバーを購入することなく、既存のMacを使ってAIの処理能力を確保できます。

Minionsは大きな処理を複数の小さなタスクに分割し、ネットワークに接続されたMacにそれぞれを割り当てます。各Macでは「Minion Executor」と呼ばれるプログラムが動作し、処理可能なタスクを取得してApple SiliconのGPUで実行します。処理が完了するとその結果はAmazon S3に保存されます。


Minionsが対応しているのは、文章などのデータをAIが扱いやすい数値の形式に変換する「埋め込み生成」と、大規模言語モデル(LLM)による文章生成の2種類です。埋め込み生成にはHugging Faceのオープンソースモデルを使用し、文章生成にはMac上でLLMをローカル実行できる「Ollama」を利用しています。なお、1つのAIモデルを複数のMacに分割して動かす仕組みではなく、それぞれのMacが独立して処理を実行します。

また、処理中のMacがスリープしたり、ネットワークから切断されたり、ユーザーによって処理を停止されたりする可能性があります。そこで、各Macは5分間隔で「ハートビート」と呼ばれる稼働状況の信号をサーバーに送信します。そして、信号を監視する「Minion Watchdog」と呼ばれるシステムが応答がなくなったMacを検出すると、そのMacが担当していた未完了のタスクを待機キューに戻します。これによりMinionsでは、別のMacがタスクを取得して処理をやり直せます。


さらに、Macの所有者は自分のGPUをどのチームやプロジェクトの処理に優先的に利用するかを設定できます。Appleによると、社内ではSlackを通じてチームメンバーにMinion Executorの起動を依頼し、特定のプロジェクトに計算能力を集めることもあるそうです。

実際の運用では、従来のGPU環境で10時間以上の待ち時間が発生していた処理を、Minionsでは数分以内に開始できるケースが確認されました。研究チームは、「追加のGPU調達が不要になり、既存のハードウェアを利用することでインフラの追加コストをゼロに抑えられた」と報告しています。ただし、このコスト評価に電気代やハードウェアの消耗は含まれていません。


一方、課題として挙げられているのがデータの機密性です。ほかのチームや組織が管理するMacでAIの処理を実行することには、社内のデータであっても情報漏えいなどの懸念があります。この問題に対処するため、Minionsではチームや組織ごとにデータベースと処理を担当するMacのグループを分離する仕組みが用意されているとのこと。

記事作成時点でMinionsが対応しているのはAIモデルを使って結果を生成する「推論処理」だけですが、研究チームは今後、AIモデルの学習にも対応させる計画を示しています。さらに、異なる組織や世界中のMacを安全に連携させることができれば、膨大なGPUリソースを共有する大規模な分散コンピューティング基盤を構築できる可能性があると論じました。

・関連記事
VRAM1.5TBのAI用クラスターをMac Studio×4台&RDMA over Thunderboltで実現するとこうなる - GIGAZINE

OpenAIが数万台のMac miniとMac Studioを買い占め - GIGAZINE

AppleがM6搭載の新型「Mac mini」&M5 Ultra搭載の新型「Mac Studio」を発表 - GIGAZINE

AppleがM6とM5 Ultraを発表、M5 Ultraは最大512GBのメモリを搭載し大型AIモデルをローカル実行可能 - GIGAZINE

ついにAppleシリコン搭載MacでNVIDIAやAMDのGPUを外部接続可能に、すでにAIモデルの実行に成功 - GIGAZINE

in AI,   ハードウェア,   ソフトウェア, Posted by log1i_yk