Google DeepMindのデミス・ハサビスCEOが「最先端AIを規制するための独立した標準機関」の設立を呼びかけ、OpenAIやMicrosoftのCEOも賛同

by World Economic Forum

Google DeepMindの共同創業者で、タンパク質構造予測AIの研究で2024年度ノーベル化学賞を受賞したデミス・ハサビスCEOが、「最先端のAIモデルを科学的に評価し、深刻なリスクを管理するための新たな標準機関」をアメリカに設立するよう提案しました。この提案に対し、OpenAIのサム・アルトマンCEOやMicrosoftのサティア・ナデラCEO、Googleのスンダー・ピチャイCEOらが相次いで賛意を示しています。

A Framework for Frontier AI and the Dawning of a New Age
https://demishassabis.substack.com/p/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age

ハサビスCEOは2026年7月14日に公開した「A Framework for Frontier AI and the Dawning of a New Age」と題する文章で、汎用人工知能(AGI)は数年以内に実現する可能性があるとの見方を示しました。AGIを責任ある方法で開発・展開できれば、創薬やクリーンエネルギー、新素材の開発などを加速させ、人類に大きな恩恵をもたらす可能性があると論じています。

一方で、ハサビスCEOはAI開発を巡る企業間や国家間の激しい競争により、技術の進歩が人間による理解を上回っていると指摘しました。最先端モデルはすでにサイバーセキュリティ上の問題を引き起こし始めており、能力が向上すれば核兵器や生物学に関連するリスク、自律性を持つAIを人間が制御できなくなるリスクなども顕在化しかねないと警告しています。

by Christopher Michel

こうしたリスクに対処するため、ハサビスCEOは最先端AIの能力を継続的に試験する「標準機関」をアメリカが設立することを提案しました。この機関は金融業界の自主規制機関である金融取引業規制機構(FINRA)のような、連邦政府の監督を受ける官民連携組織または自主規制組織をモデルとしており、理事会には独立した有力技術者やオープンソース開発者の代表を参加させる構想です。

標準機関はAIモデルを評価するための手順や基準を策定し、連邦機関やアメリカ国立研究所と協力して国家安全保障に関わる試験を実施します。定期的に更新されるベンチマークで一定の基準を超えたモデルを「フロンティア級」、そうしたモデルを開発する組織を「フロンティア研究所」と認定する仕組みが想定されています。

フロンティア研究所には、モデルの技術情報を記したモデルカードの公開、強固なサイバーセキュリティの維持、主要人員の審査、安全性研究への十分な投資といった慣行を採用することが求められます。当初は任意の制度として、各研究所がモデルの公開最大30日前までに標準機関へモデルを提出し、評価制度の有効性が確認された後は、アメリカ市場での提供前に審査への合格を義務付ける案が示されています。

評価項目にはサイバー攻撃や生物学的脅威などの危険な能力に加え、AIが安全対策を回避しようとしたり、意図的に人間を欺いたりする兆候が含まれます。ベンチマークは当初は四半期ごとに更新し、将来的にはAI企業から独立した非公開の試験を標準機関自身が作成することで、モデルが既知の試験問題だけに最適化されることを防ぐとしています。

この枠組みの対象となるのは、開発国やオープンモデルかクローズドモデルかを問わず、一定の能力基準に達したフロンティア級モデルです。一方、基準に達しないスタートアップや大学などのモデルは対象外とし、技術革新を妨げずに最も高度なAIのリスクへ対処することを目指しています。

また、状況が深刻化した場合には、標準機関が複数のフロンティア研究所による開発速度の抑制を調整できる仕組みも必要だとハサビスCEOは述べています。さらに、アメリカで始めた制度を国際的な共通基準へと発展させ、AIの恩恵を広く行き渡らせながら世界規模のリスクを管理すべきだと主張しました。

この提案について、OpenAIのアルトマンCEOは「デミスによる思慮深い提案です」と投稿しました。

MicrosoftのナデラCEOも、革新と選択肢を促進しながら「たった1つのモデルの公開によって世界が壊れる」事態を避けるフロンティアAIのエコシステムを目指すべきだとして、「このような考察がもっと必要です」と評価しています。

GoogleのピチャイCEOは「よく言ってくれました、デミス。読む価値があります」とコメント。

Twitter共同創業者のジャック・ドーシー氏も「素晴らしい」と賛意を表明しました。

ハサビスCEOは、「AGIが到来するまでに残された時間を利用して技術的な安全基盤と国際的な枠組みを整え、AIを人類全体の利益につながる方向へ導く必要がある」と結んでいます。