OpenAIのサム・アルトマンCEOはどういう意図で「RAM(メモリ)は個人が抱えるよりもデータセンターで持つ方がいい」と発言したのか？

OpenAIのサム・アルトマンCEOがインタビューの中で、世界的に供給が限られているDRAMを個人のPCに大量に搭載することについて、資源配分の観点から「非常に非効率だ」と指摘しました。アルトマンCEOは「各自のPCでAIを動かすよりも、クラウド上でメモリを効率的に利用する方が望ましい」との考えを示しています。

Sam Altman says it’s better for RAM to be in a data center than on your desk | The Verge
https://www.theverge.com/ai-artificial-intelligence/1023820/sam-altman-ram-shortage-cloud-servers

アルトマンCEOは決済サービス大手であるStripeの共同創業者であるジョン・コリソン氏とのインタビューで、AIの発展や計算資源の不足、半導体の供給問題などについて語りました。この中で、DRAMの価格高騰と供給不足が話題に上りました。

Sam Altman’s case for making compute cheap - YouTube

アルトマンCEOは「DRAMメーカーが長年にわたって巨額の設備投資を行いながらも、十分な利益を確保することが難しかった」と説明。200億ドル(約3兆円)を投資して190億ドル(約2兆8500億円)しか回収できないような状況を例に挙げ、メモリ業界が好況と不況を繰り返してきたと述べました。

さらにアルトマンCEOは、AI需要の急増によってDRAMメーカーが巨額の利益を得られる状況になっていると指摘。それでも各社が設備投資に慎重なのは、過去に工場を増やしすぎて経営危機に陥った経験があるためだと分析しています。

その後、話題はAIをクラウド上ではなく個人のPCで実行する「ローカル推論」に。アルトマンCEOは「多くの人がローカル推論を望んでおり、オープンソースのAIモデルを自分のPCで動かせるようになれば、データセンターの設備に頼る必要がなくなると考えている」と認めた上で、「世界全体の資源配分という観点から見ると、供給量が限られているDRAMを誰もが自分のコンピューターに大量に搭載し、それが稼働時間の5％しか使われないという状況は実際には非常に非効率です」と述べました。

続けて「これほど供給が逼迫している環境に対処するのであれば、クラウドでの稼働率を最大限に高めるべきです」と語り、多くの人々がこれとは逆の直感を持っているとの見方を示しました。

アルトマンCEOは「個人がそれぞれ大量のDRAMを確保しても、AIを実行していない時間はメモリが十分に活用されない」という考えを示しました。つまり、「限られたDRAMをデータセンターに集約し、多数のユーザーで共有する方が資源を効率的に利用できる」とアルトマン氏は主張しています。ただし、インタビュー中では「5％」という数字について、具体的な調査結果や算出根拠は示されていません。

ローカルAIはインターネット接続がなくても利用でき、データを外部のサーバーに送信せずに処理できるという特徴があります。個人のPCとデータセンターでは利用目的や運用方法も異なるため、メモリの稼働率だけで両者の優劣が決まるわけではありません。

OpenAIはデータセンターで稼働するAIモデルを主力サービスとして提供しています。アルトマンCEOは今回のインタビューで、OpenAIが独自チップの開発やデータセンター建設の自動化に取り組んでいることも明らかにしました。

AIの普及に伴ってメモリの需要が拡大する中、アルトマンCEOはクラウドへの計算資源の集約を重視する立場を示しました。ただし、今回のインタビューでは個人のPCとクラウドの実際のメモリ利用効率を比較したデータは提示されておらず、同氏の主張を裏付ける定量的な検証は行われていません。