DeepMind・OpenAI・Anthropicの設立の経緯について、AIのリスクを最も恐れていた人々は自分たちがトップになるべきだと決心し構築するまで

AlphaGoやAlphaZeroを開発したDeepMind、GPT-4やChatGPTなどを開発したOpenAI、チャットボットAIのClaudeを開発するAnthropicという3つのAI組織がどういう経緯で設立したのかについて、The New York Timesがまとめています。

How Elon Musk and Larry Page’s AI Debate Led to OpenAI and an Industry Boom - The New York Times
https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html

・目次
◆イーロン・マスクとラリー・ペイジの議論
◆DeepMindの誕生
◆DeepMindがGoogleに買収されるまで
◆OpenAIの設立とマスク氏の離脱
◆OpenAI元メンバーによるAnthropicの設立
◆OpenAIの技術がMicrosoftに取り入れられたきっかけ

◆イーロン・マスクとラリー・ペイジの議論
2015年7月にイーロン・マスク氏がカリフォルニアのワインカントリー・リゾートで3日間のパーティーを開催しました。このパーティー初日の夕食後に、当時GoogleのCEOだったラリー・ペイジ氏とマスク氏が、プールサイドのたき火台の近くで「AI」をテーマに語り合いました。

ペイジ氏は「人間はやがてAIを持った機械と一つになり、いつの日か、多くの種類の知性が資源を奪い合い、最も優れたものが勝つだろう」と述べました。これに対し、人間が優先されるべきとするマスク氏は「もしそうなれば、私たちは破滅する。機械は人類を滅ぼすだろう」と述べ、意見が対立したとのこと。

ペイジ氏とマスク氏は10年以上の知り合いで仲が良かったそうですが、このトークは意見の対立から完全にヒートアップ。ペイジ氏はいら立ちをあらわにしながら「マスク氏は『種差別主義者(specieist)』であり、未来のデジタル生命体よりも人間を好んでいる」と主張。マスク氏は、このペイジ氏の発言が「(ペイジ氏と対立する)とどめの一撃」だったと述懐しています。

by UK Government

The New York Timesは「こういった議論はシリコンバレーではよくある難解な議論の1つです。しかし8年後にみると、2人の議論は先見の明があったように思えます」と評価しています。

◆DeepMindの誕生
マスク氏とペイジ氏の議論が行われる5年前、当時32歳の神経科学者であるデミス・ハサビス氏は、投資家であるピーター・ティール氏の開催するパーティーに参加しました。ハサビス氏は当時、脳にできることなら何でもできる人工知能である「汎用(はんよう)人工知能(AGI)」の研究を行うための資金を探していました。

by George Gillams

ティール氏はSF、特にAIや知的技術が人類によってもはや制御できなくなるシンギュラリティーを扱った作品が好きだったそうで、独学でAI研究の道を進んだエリザー・ユドコフスキー氏は、ティール氏の資金援助を受けて自身が創設した研究機関・MIRI(Machine Intelligence Research Institute)を拡大し、シンギュラリティーに関する年次会議を創設しています。ハサビス氏の同僚がこのユドコフスキー氏と知り合ったことで、ハサビス氏はティール氏のパーティーへの招待を受けることができました。

しかし、PayPalの共同創業者としても成功して巨万の富を得ていたティール氏は金をせびる目的でパーティーに参加している者がほとんどだろうと考え、非常に警戒していました。そこで、ティール氏はチェス愛好家であり、ハサビス氏もかつて14歳以下の部門で世界2位にランクインするほどの腕前を持つチェスプレイヤーであったことを利用し、ティール氏に「(チェスの駒である)ビショップとナイトの間には深い緊張関係があります。この2つの駒は同じ価値を持ちますが、一流のプレイヤーにはその強さが大きく異なることがわかります」と話しかけました。

この作戦が功を奏し、ハサビス氏はティール氏と後日に話し合いの場を設けることに成功し、ティール氏からおよそ225万ドル(約2億2500万円、以下当時のレートで換算)の出資を得ることができました。ハサビス氏は、機械学習技術の1つである「ディープラーニング」、そして小説「銀河ヒッチハイク・ガイド」に登場するスパコンの「ディープ・ソート」にちなんで、設立したスタートアップを「DeepMind」と名付けました。

DeepMindの共同創設者であるムスタファ・スレイマン氏は「AIテクノロジーには大きなメリットがあります。目標は技術を排除することでも、開発を一時停止することでもなく、マイナス面を軽減することです」とコメントしています。

さらに、ハサビス氏はティール氏の投資ファンドが宇宙企業のSpaceXに出資していた関係で、SpaceXのマスクCEOとも会談することができました。マスク氏が「人口過剰やその他の危険から逃れるため、火星を植民地化する計画を立てている」と語ると、ハサビス氏は「超知的な機械が火星にやってきて人類を滅ぼさない限り、その計画はうまくいくでしょう」と回答。ハサビス氏から想定外のコメントが飛んできたことに驚いたマスク氏は、すぐさまDeepMindに投資したそうです。

潤沢な資金を得たDeepMindは、人間の脳をイメージしたアルゴリズムであるニューラルネットワークを専門とする研究者を雇用しました。ニューラルネットワーク自体は1950年代から研究されていましたが、DeepMindはこのニューラルネットワークの研究をさらに前進させ、スペースインベーダーやPONGなどのゲームをプレイするAIを構築することに成功しています。このDeepMindの成功はGoogle、特にペイジ氏から注目されました。ペイジ氏はAIが実際にゲームをプレイするデモを見て、DeepMindに強い興味を持ったとのこと。

◆DeepMindがGoogleに買収されるまで
2012年秋、トロント大学のジェフリー・ヒントン教授はニューラルネットワークの研究を行っていました。ヒントン教授が構築したニューラルネットワークは、花や車、人など、物を正確に認識することができ、世界中の科学者が驚がくします。特にヒントン教授の研究結果に注目したのが中国企業のBaiduで、ヒントン教授とその学生たちに1200万ドル(約13億円)を提示し、Baiduへの入社を打診したそうです。ただし、ヒントン教授はその申し出を断ったとのこと。

by Collision Conf

ヒントン教授も決して裕福ではない生活を送っていましたが、「自分たちが自分たちの価値を正しく把握していない」と考え、GoogleやMicrosoft、Baiduを初めとした大手テック企業が集まるAI学術会議に参加し、自身を「オークション」にかけようと画策しました。

当然ながら、ヒントン教授にはさまざまな企業が手を上げ、契約金がどんどんと高騰。主に競り合っていたのがMicrosoftとGoogleで、契約金は最終的に4400万ドル(約47億円)にまで登りました。契約金の入札額はまだ釣り上がる気配があったもののが、最終的にヒントン教授らはGoogleで働くことを決意したため、オークションはここで打ち止めになりました。

このヒントン教授チームのオークションにはDeepMindも参加していましたが、ヒントン教授の契約金額があまりにも高くなったことで手を引いていました。ハサビス氏は、DeepMindが独立企業であることでDeepMindのテクノロジーが危険なものになることはないと考えていましたが、GoogleやMicrosoftのようなビッグテックが参加してきたことで今後の人材確保は難しくなるだろうと考えました。

そこでDeepMindは、2012年末から打診されていた買収交渉のテーブルに着くことを決意。ただし、DeepMind側は「DeepMindの技術を軍事目的に使用しないこと」「AGI技術を技術者と倫理学者からなる独立委員会が監督すること」を条件に出しました。

当時DeepMindの買収に名乗りを上げていたのはGoogleとFacebookでした。Googleは最大6億5000万ドル(約700億円)の買収額を提示した一方で、Facebookはもっと高い買収額を提示していたそうですが、DeepMindの提示した条件には同意しなかったとのこと。その結果、DeepMindはGoogleに5億ドル(約500億円)で買収されました。

Googleが謎の人工知能開発スタートアップ企業「DeepMind」を500億円で買収 - GIGAZINE

マスク氏とペイジ氏がAIの未来について激しい議論を交わしてから約1カ月後の2015年8月14日、DeepMindの提唱した倫理委員会の初会合が、SpaceXにある会議室で行われました。この会合に参加したのはペイジ氏とマスク氏、Googleの共同設立者であるセルゲイ・ブリン氏、Googleの元CEOであるエリック・シュミット氏、PayPalの共同設立者であるリード・ホフマン氏、オーストラリアの哲学者であるトビー・オード氏でした。

DeepMindの共同設立者であるスレイマン氏はこの倫理委員会の初会合で、「The Pitchforkers Are Coming」と呼ばれるプレゼンテーションを行い、「AIは偽情報の爆発的な増加につながる可能性がある」「DeepMindの技術が今後数年で多くの仕事をこなすようになると、一般大衆は『Googleが自分たちの生活をかすめとった』と非難するだろう」「Googleは、仕事を失った何百万もの人々に富を分け与える普遍的ベーシックインカムを提供する必要に迫られるだろう」と語りました。

マスク氏は、このスレイマン氏の主張に同意しました。しかし、シュミット氏は「その心配は完全に行き過ぎだろう」と述べ、ペイジ氏も「AIは仕事を奪うよりも多くの雇用を創出するだろう」と意見しました。倫理委員会の会合はこの1回のみで、2回目が開かれることはありませんでした。

◆OpenAIの設立とマスク氏の離脱
マスク氏はこの会合のすぐ後にDeepMindから離れました。マスク氏が投資した企業の経営に自身が携わらないケースは非常に珍しく、ペイジ氏らGoogleによってDeepMindが完全に掌握されているのを見て離れたとThe New York Timesは見ています。ただし、マスク氏があっさりとDeepMind関連から手を引いたのには、自身が別のAI関連組織に投資していたからという理由もあります。

DeepMindの倫理委員会の会合が開かれる数週間前、マスク氏はカリフォルニア州メンローパークにあるホテルで、当時テックインキュベーターであるY CombinatorのCEOだったサム・アルトマン氏や数人の研究者と食事をしました。この食事会こそが、2015年12月に設立したOpenAIの誕生につながりました。OpenAIが「『人類の利益となるような』汎用人工知能」という理念を掲げているのは、プールサイドの焚き火のそばでペイジ氏が主張していた「いずれ機械と人類が融合していき、優れた方が残っていく」という思想から人類を守るためだというわけです。

by Village Global

OpenAIは、プロジェクトをスタートさせるためにGoogleからイリヤ・サツキヴァー氏を引き抜きました。このサツキヴァー氏は、ヒントン教授の教え子の一人であり、Googleがオークションで入札したメンバーの一員です。

マスク氏はOpenAIを非営利団体として運営することで、AI研究をGoogleやFacebookのような経済的インセンティブから解放したいと考えていた模様。しかし、DeepMindがAlphaGoなどの成果を発表して話題になった頃には「OpenAIはもっと早く成果を出すべきだ」という意見に変わっていったとのこと。関係者によると、マスク氏は2017年後半にアルトマン氏ら共同創設者からOpenAIの経営権を奪い、テスラで開発中のスーパーコンピューターを使った商業運営に転換する計画を立てていたそうです。

しかし、アルトマンCEOらから反発を受け、2018年にマスク氏がOpenAIの取締役会を辞任する形で袂(たもと)を分かちました。DeepMindの成功に焦っていたマスク氏はOpenAIのオフィスで「もっと早く動く必要がある」と訴えましたが、OpenAIの研究者から「無謀だ」と言い返され、「バカ野郎！」と怒鳴ってオフィスを出ていったと伝えられています。

マスク氏が離れたことで、OpenAIは新たな資金調達が必要となりました。そこで、アルトマンCEOは知り合いだったMicrosoftの最高技術責任者であるケビン・スコット氏のつてで、サティア・ナデラCEOと面会。そして、OpenAIの非営利組織下に営利法人を設立し、Microsoftからの投資10億ドル(約1080億円)を得ることに成功しました。

Microsoftが汎用人工知能(AGI)開発のため1000億円以上をOpenAIに出資 - GIGAZINE

◆OpenAI元メンバーによるAnthropicの設立
マスク氏がアルトマン氏と食事をしてOpenAIの設立を決めた時に同席していた1人が、OpenAIの共同設立者であるダリオ・アモデイ氏でした。利他主義者として活動していたアモデイ氏は、Wikpiediaの記事やデジタル書籍、掲示板など、膨大な量のデジタルテキストから学習するニューラルネットワークを構築するための研究に携わっていました。このニューラルネットワークこそ、のちにGPTという形でリリースされる大規模言語モデルの原型です。

by TechCrunch

しかし、アモデイ氏はOpenAIを商業的な方向に導こうとしているMicrosoftに対して不満を抱いていたとのこと。そのため、アモデイ氏は2021年にMicrosoftから巨額の投資を得る代わりにMicrosoftが幅を利かせるきっかけとなったアルトマン氏を追い出そうと画策しました。しかし、このたくらみが失敗に終わったため、アモデイ氏はOpenAIを離脱し、15人のエンジニアや科学者と共にAnthropicと呼ばれる新しい研究所を設立するに至ります。

ただし、Anthropicの広報担当者であるサリー・オルダス氏は「Anthropicの共同設立者がOpenAIからアルトマンCEOを排除しようとしたことはありません。共同設立者たち自身が、OpenAIを離れて自分たちの会社を立ち上げたいという結論に達し、OpenAIの代表にそのことを伝え、数週間かけてお互いに合意できる条件で交渉し、退社しました」と述べています。

Anthropicはその後、Amazonから40億ドル(約4200億円)の投資を、Googleからも数億ドルの投資を受けています。

AmazonがAWSのAI用アクセラレーター＆チップ開発を進めるために最大40億ドルをOpenAIのライバル「Anthropic」に投資 - GIGAZINE

マスク氏やアモデイ氏らの離脱を経験したアルトマンCEOは「意見の相違、不信感、エゴというものがあります。同じ方向に向かおうとすればするほど、意見の対立は激しくなります。宗派や修道会でも見られることです。最も親しい人たちだからこそ、その間に激しい争いが生まれるのです」とコメントしました。

アモデイ氏がOpenAIから離れた2年後、アルトマンCEOは自身の発言を裏付けるように、OpenAIの取締役会から突然解任を言い渡され、OpenAIを退社することになります。このアルトマンCEO解任を言い渡した取締役会メンバーの一人がサツキヴァー氏だと報じられました。

AI開発企業・OpenAIのサム・アルトマンCEOが退任、暫定CEOにミラ・ムラティCTO - GIGAZINE

なお、アルトマンCEOはY Combinatorの会長に就任したものの、「組織よりも個人的な事情を優先することが多く、欠勤によって同僚や担当していたスタートアップを不安にさせがちだった」という理由で、Y Combinatorの会長を解任させられた経験もあります。

サム・アルトマンはOpenAI以前にも解任された経験がある - GIGAZINE

◆OpenAIの技術がMicrosoftに取り入れられるきっかけ
DeepMind・OpenAI・Anthropicという3つのAI組織の中で、一般的に最も驚きを持って迎えられたのがOpenAIのChatGPTでした。それまでAIのことをほとんど知らないような人でも、ChatGPTは誰でも基本無料で使えることから、その知名度はDeepMindやAnthropicのAIよりも高いといえます。

OpenAIがMicrosoftから投資を受けたあとの2022年3月に、アルトマンCEOと共同設立者のグレッグ・ブロックマン社長は、シアトル郊外にあるビル・ゲイツ氏の自宅を訪ねました。Microsoftの共同創設者だったビル・ゲイツ氏は、OpenAIの幹部とは定期的に連絡を取り合っていたとのこと。

当初、GPTがどれだけ機能するのかを疑問視していたゲイツ氏は、「批判的な思考を必要とするタスクをこなすまでは、大規模言語モデルに対して懐疑的であり続ける」と述べたとのこと。そこで、アルトマンCEOとブロックマン社長は、OpenAIの研究者であるチェルシー・ヴォス氏を連れて、2022年8月に再びゲイツ氏の下を訪れました。

ヴォス氏は、GPT-4に多肢選択式の生物学のテストを解かせ、その解答を採点しながら解説しました。問題は60問でしたが、間違えたのはたった1問という結果に、ゲイツ氏は椅子に座りながら目を大きく見開きました。GPT-4の性能を示すプレゼンテーションは、ゲイツ氏の懐疑的な姿勢を崩すのに十分な効果があったというわけです。

この直後、MicrosoftはBingの検索エンジンを含むオンラインサービス全体にOpenAIの技術を採用することを決定。さらにこのプレゼンから2カ月後にOpenAIはChatGPTをリリースしました。

The New York Timesは「この時、OpenAIはAnthropicの利他主義者を打ち負かしました。楽観主義的だったGoogleは、ChatGPTのリリースに慌ててチャットボットAIのBardをリリースしましたが、OpenAIとの競争に敗れたという認識が広まり、Googleの株価は11％下落しました。そして、この競争にはマスク氏の姿はどこにもありませんでした」とコメントしています。