ソフトウェア

ジェネレーティブAIの進歩に大きな影響を与えた「Transformer」を開発した研究者らはなぜGoogleを去ったのか?


昨今のChatGPTやMidjourneyなど、さまざまなジェネレーティブAIを支えるニューラルネットワークアーキテクチャである「Transformer」は、2017年にGoogleの研究者8人によって発表されました。しかし、Transformerの開発に携わった研究者は全員Googleを退職していることが報じられています。

Ex-Google Scientists Kickstarted the Generative AI Era of ChatGPT, Midjourney - Bloomberg
https://www.bloomberg.com/opinion/features/2023-07-13/ex-google-scientists-kickstarted-the-generative-ai-era-of-chatgpt-midjourney


2017年にGoogleの研究者8人は、機械が人間のようなテキストや画像、DNA配列、その他多くの種類のデータをかつてないほど効率的に生成できる新たなシステムであるTransformerを開発し、調査結果を「Attention Is All You Need」という論文で発表しました。後にこの論文はさまざまなAI研究者によって8万回以上引用される著名な論文となり、TransformerはチャットAIのChatGPTや画像生成AIのMidjourneyを支えるアーキテクチャになりました。

ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは? - GIGAZINE


一般的に技術系企業が新たな技術に対してフィードバックを得たり、人材を集めたり、サポーターのコミュニティを形成したりするためにオープンソース化することは珍しいことではありません。しかしGoogleは、Transformerをすぐにオープンソース化せず、自社に利益をもたらすサービスに成長させるための研究を続けていました。一方で、AI開発企業のOpenAIはTransformerを用いて、検索大手であるGoogleに対して深刻な脅威になり得るChatGPTを開発しました。

Transformerの開発に携わった8人の研究者は発表後、次々にGoogleを退職しました。退職した研究者の一部はAIスタートアップの立ち上げを行っていることが報告されています。以下はTransformerの開発に携わった8人のリストと、Google退社後の勤務先のリストです。

研究者名企業役職資金調達額企業評価額
アシシュ・ヴァスワニEssential.ai共同創設者約11億円不明
ニキ・パルマールEssential.ai共同創設者約11億円不明
ノーム・シャゼールCharacter.ai共同創設者約280億円約1200億円
ヤコブ・ウシュコライトInceptive Nucleics共同創設者約29億円約130億円
リオン・ジョーンズステルススタートアップ共同創設者非公開非公開
エイダン・N・ゴメスCohere共同創設者兼CEO約640億円約2900億円
ルーク・カイザーOpenAI研究者非公開非公開
イリア・ポロシュキンNEAR Protocol共同創設者約1160億円約1700億円


競合他社であるOpenAIは、2023年の時点で約375人の従業員のうち、AI研究者の割合は約半数の約150人だった一方、Googleは約14万人の従業員のうち、AIに取り組んでいるのは約20%の7133人だったことが報告されています。また、匿名の研究者やエンジニアは「Transformerの開発の際には、アイデアを承認してもらうために何重にもなるチェックを受けなければなりませんでした」と報告しています。さらに「Googleの主要なAI部門の1つであるGoogle Brainの研究者も、自身のキャリアアップや研究論文での可視性に執着しており、明確な戦略的方向性が欠如していました」と指摘されています。


アイデアを新製品に変えるためのハードルもGoogle内では非常に高く、ヴァスワニ氏らは「アイデアが10億ドル(約1450億円)規模のビジネスでない限り、Googleは動いてくれませんでした」と語っています。

Googleの広報担当者は「Transformerに関するAI業界をリードする画期的な研究が行われたことを誇りに思うとともに、Googleの研究者らがGoogle以外で研究を進めていることに対して悔しさを感じています。しかし、我々はこの研究が生み出したAIの新たなエコシステムに研究への活力を感じています」と述べています。

この記事のタイトルとURLをコピーする

・関連記事
より高い品質の翻訳を実現するGoogleの「Transformer」がRNNやCNNをしのぐレベルに - GIGAZINE

ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは? - GIGAZINE

自然なブログを書いてしまうほど超高精度な言語モデル「GPT-3」はどのように言葉を紡いでいるのか? - GIGAZINE

言語処理のニューラルネットワークモデルが脳の働きと同じ構造をしているという仮説 - GIGAZINE

Google翻訳のAIは独自の「中間言語」を習得して「学習してない言語間の翻訳」すら可能な段階に突入 - GIGAZINE

in ソフトウェア, Posted by log1r_ut

You can read the machine translated English article here.