AGIを追求するために数十億ドル(数千億円)もの資金を調達した人たちもいます。その結果はある意味興味深いものがあり、狭義での機械学習ではかなりすごい結果を今すぐ提示できるかもしれませんが、それがAGIを実現するのに必要なステップかどうかも明らかではありません。何千億円もお金をかけなくても、価値ある結果を得られる脇道はいくらでもあります。1つの目的に特化して高度に機能する「狭いAI」にはまだまだ世界を変える力があります。
私は、初めて成果を得た時に「はい、1000億円以上かけて得たものがこれですよ」と言うだけで、自分たちが理解して得たものがさまざまな産業に革命を起こす可能性を懸念しています。そうなると、もっと先のことを考えたり、もっと奥にある大きな物事に注目することができなくなります。なので、私は自分がやっていることを本当に率直に言うようにしています。短期的なビジネスチャンスはありません。
Q：
そもそもAGIというテーマに興味を持ったきっかけは何だったのでしょうか？
カーマック氏：
今は科学革命の真っただ中ですが、10年前にはAIが活躍しているという感覚はありませんでした。こういったAIの「冬」はここ数十年の間に何度かありました。VR(仮想現実)も同じような流れにあるのは面白いですね。VRは1990年代にあまりにも大きな失敗をしていて、誰もそのことを話題に上げたがりません。
AIも誇大宣伝して資金を集め、業界が盛り下がって失敗するというサイクルが何度もあり、誰もAIを話題にしたがりませんでした。しかし、この10年間に機械学習業界で起こった数々の驚くべきことは本当に奥深いものです。今回の盛り上がりがこれまでと違うことに気づかない人は注意力が足りません。
このことが「よし、この辺りで真面目にAIを扱ってみよう」という気にさせてくれました。私は機械学習やAIについては技術的な傍観者として理解していましたし、10代の頃にも関連する書籍を読んでいました。現実世界を数理論理学でモデル化するシンボリックAIなどについても知っていたので、私にとってAIは興味深いものでした。しかし、ゲームや航空宇宙、VR関連の仕事で忙しかったので、実際にAIの世界で何が起こっているかまでは知らなかったのです。
そこで、私はまず「誇大宣伝されていることと現実に起こっていることの違いを整理する必要があるぞ」と思い至りました。私の本当にできることというのはいつも物事を根本的に理解することから生まれてきました。最も深いレベルで、物事がどのように起こるのかを一番の根っこから知ることで初めて洞察できることがあるのです。
私は2019年頃に1週間の休暇を取りました。コンピューターと参考資料を抱えて、1週間かけてAI業界の基本を頭にたたき込むのです。そして、「これなら研究者と対等に話ができる」と思えるまでになりました。そのレベルまで理解できるようになったことに私はとても興奮しました。
その後、OpenAIのサム・アルトマンCEOから、ベンチャーキャピタルのY Combinatorが主催する「YC120」というカンファレンスに誘われました。普段は引きこもりがちなのでこういうイベントには参加しないのですが、OpenAIのグレッグ・ブロックマンCTOと首席研究者のイリヤ・スツケヴェル氏からも誘われたので、この時は参加することにしました。
私はエンジニアとして知られていますが、この時はAIについて基本知識しか持っていませんでした。誘ってくれた人たちがAI業界のけん引役でもあることに加え、私が同じラインに到達する価値があると思えたことが、今起きていることの重要性と私が果たせる役割について考えるきっかけになったのです。
そこで、スツケヴェル氏に読むべき本をリストアップするように依頼しました。スツケヴェル氏は40本ほどの研究論文のリストを渡し、「このすべてを本当に学習できたなら、今のAI業界において重要なことの9割は理解できます」と言われました。なので、私はこれらの論文をすべて読み、頭の中で整理しました。
Q：
その頃はまだMetaでVR関連の仕事をしていたんですよね？
カーマック氏：
そうですね。当時の私はMetaが示す大規模な戦略的方向性について、いくつかの難問にぶつかっていました。Metaがどれだけの金を使っているかという記事を見たことがあると思いますが、私はMetaのプロジェクトの大部分が全然使い物にならないと思いました。私はMetaでいくつかの困難に直面している時に、OculusがMetaに買収されたときから5年間の契約が終了しました。この時、「OK、今こそAGIの研究にもっと真面目に取り組もう」と決心したのです。
ゲームも航空宇宙もVRも、これまでやってきたことはすべてまだ実現していないものを目指しながらも、明確な展望がありました。しかし、AGIは違います。これは単純なエンジニアリングの問題ではなく、誰もAGIを実現する方法を知らないからです。しかし、この10年間に起こったことを考えると、ヒントがたくさんあります。これらは黒魔術めいた数学マジックのように極まったものではなく、比較的単純なテクニックが多く、今となっては理にかなっていると納得するものばかりです。生物学的製剤に相当するようなものが完成するまであともうちょっと洞察が必要でしょう。
私は2020年頃に「2030年にAIが誕生する可能性は五分五分だろう」という予測を立てました。この「AIの誕生」というのは、「人間と同じレベルで知的で意識がある存在がコンピューター上で動作する」ということを意味します。この3年間に一生懸命研究を行なってきた結果、私の予測は変わっていません。むしろ2030年にAIが誕生する可能性は60％ぐらいに上がったかもしれません。2050年までであれば95％くらいの確率だとみています。
多くの人が、AIによって地球を揺るがすような驚異的なことが起こると予想していますよね？私は堅実な人間なので、大言壮語は控えるようにしています。航空宇宙に関わっていた時も、火星を植民地にする話ではなく、どのボルトで部品を固定するかという話をしていました。なので、コストパフォーマンスの高いAIを使うことで何ができるのかをTEDで延々と話すようなことはしたくありません。
しかし、特に新型コロナウイルスの流行によって、人々はコミュニケーションの多くがコンピューターでも厳密に行えることが示されました。今日世界の価値のほとんどが、コンピューター上で発生しています。また、ディープフェイクやチャットボット、音声合成などの狭いAIがあれば、人間のモダリティをシミュレートできることが明らかです。人類はAIが同じ職場で働く学習可能な存在だという認識をまだ持っていませんが、今よりもっと進歩できるほどの驚くべき量の知識を蓄えています。
シンギュラリティやAGIによってすべてが変わると大げさに騒ぐ人がいますが、10年後にはクラウドにアクセスできるコンピューティングリソースのように、クラウド上で稼働するAGIに支持するだけで仕事をこなしてもらうことができるようになります。「映画か漫画か何かを作りたいから、必要なチームをくれ」と指示して、クラウド上で動作するAIで作業を実行することもできます。AIにクラウドからアクセスするというのは、最も平凡でありふれたAIの使い方になるのではないでしょうか？それが私のビジョンのようなものです。
なお、上記の内容はインタビューのほんの一部であり、カーマック氏はAIに対する期待や展望をたっぷり語っているので、気になる方はぜひインタビュー本文を読んでみてください。
