ジェネレーティブAIの進歩に大きな影響を与えた「Transformer」を開発した研究者らはなぜGoogleを去ったのか?
昨今のChatGPTやMidjourneyなど、さまざまなジェネレーティブAIを支えるニューラルネットワークアーキテクチャである「Transformer」は、2017年にGoogleの研究者8人によって発表されました。しかし、Transformerの開発に携わった研究者は全員Googleを退職していることが報じられています。
Ex-Google Scientists Kickstarted the Generative AI Era of ChatGPT, Midjourney - Bloomberg
https://www.bloomberg.com/opinion/features/2023-07-13/ex-google-scientists-kickstarted-the-generative-ai-era-of-chatgpt-midjourney
2017年にGoogleの研究者8人は、機械が人間のようなテキストや画像、DNA配列、その他多くの種類のデータをかつてないほど効率的に生成できる新たなシステムであるTransformerを開発し、調査結果を「Attention Is All You Need」という論文で発表しました。後にこの論文はさまざまなAI研究者によって8万回以上引用される著名な論文となり、TransformerはチャットAIのChatGPTや画像生成AIのMidjourneyを支えるアーキテクチャになりました。
ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは? - GIGAZINE
一般的に技術系企業が新たな技術に対してフィードバックを得たり、人材を集めたり、サポーターのコミュニティを形成したりするためにオープンソース化することは珍しいことではありません。しかしGoogleは、Transformerをすぐにオープンソース化せず、自社に利益をもたらすサービスに成長させるための研究を続けていました。一方で、AI開発企業のOpenAIはTransformerを用いて、検索大手であるGoogleに対して深刻な脅威になり得るChatGPTを開発しました。
Transformerの開発に携わった8人の研究者は発表後、次々にGoogleを退職しました。退職した研究者の一部はAIスタートアップの立ち上げを行っていることが報告されています。以下はTransformerの開発に携わった8人のリストと、Google退社後の勤務先のリストです。
研究者名 | 企業 | 役職 | 資金調達額 | 企業評価額 |
アシシュ・ヴァスワニ | Essential.ai | 共同創設者 | 約11億円 | 不明 |
ニキ・パルマール | Essential.ai | 共同創設者 | 約11億円 | 不明 |
ノーム・シャゼール | Character.ai | 共同創設者 | 約280億円 | 約1200億円 |
ヤコブ・ウシュコライト | Inceptive Nucleics | 共同創設者 | 約29億円 | 約130億円 |
リオン・ジョーンズ | ステルススタートアップ | 共同創設者 | 非公開 | 非公開 |
エイダン・N・ゴメス | Cohere | 共同創設者兼CEO | 約640億円 | 約2900億円 |
ルーク・カイザー | OpenAI | 研究者 | 非公開 | 非公開 |
イリア・ポロシュキン | NEAR Protocol | 共同創設者 | 約1160億円 | 約1700億円 |
競合他社であるOpenAIは、2023年の時点で約375人の従業員のうち、AI研究者の割合は約半数の約150人だった一方、Googleは約14万人の従業員のうち、AIに取り組んでいるのは約20%の7133人だったことが報告されています。また、匿名の研究者やエンジニアは「Transformerの開発の際には、アイデアを承認してもらうために何重にもなるチェックを受けなければなりませんでした」と報告しています。さらに「Googleの主要なAI部門の1つであるGoogle Brainの研究者も、自身のキャリアアップや研究論文での可視性に執着しており、明確な戦略的方向性が欠如していました」と指摘されています。
アイデアを新製品に変えるためのハードルもGoogle内では非常に高く、ヴァスワニ氏らは「アイデアが10億ドル(約1450億円)規模のビジネスでない限り、Googleは動いてくれませんでした」と語っています。
Googleの広報担当者は「Transformerに関するAI業界をリードする画期的な研究が行われたことを誇りに思うとともに、Googleの研究者らがGoogle以外で研究を進めていることに対して悔しさを感じています。しかし、我々はこの研究が生み出したAIの新たなエコシステムに研究への活力を感じています」と述べています。
・関連記事
より高い品質の翻訳を実現するGoogleの「Transformer」がRNNやCNNをしのぐレベルに - GIGAZINE
ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは? - GIGAZINE
自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか? - GIGAZINE
言語処理のニューラルネットワークモデルが脳の働きと同じ構造をしているという仮説 - GIGAZINE
Google翻訳のAIは独自の「中間言語」を習得して「学習してない言語間の翻訳」すら可能な段階に突入 - GIGAZINE
・関連コンテンツ