Googleが倫理的AIチームの研究者を解雇したことは「前例ない検閲」だとして非難集中、Google社員1200人以上が抗議文に署名

by Thomas Hawk

Googleで倫理的人工知能(AI)チームのテクニカルリーダーを務めていたティムニット・ゲブル博士が、Googleから「論文の撤回か辞任か」を求められ、結果的にGoogleを去らざるを得ない状況に追い込まれたとして、Googleに非難が集中しています。Googleは論文の内部レビューが適切だったと説明していますが、本来であればGoogle内部の機密が漏れないようにチェックすることが目的であるはずのプロセスが「検閲」になっており、Google社内における研究や論文のあり方がねじ曲げられていると指摘されています。

Timnit Gebru’s actual paper may explain why Google ejected her - The Verge
https://www.theverge.com/2020/12/5/22155985/paper-timnit-gebru-fired-google-large-language-models-search-ai

Why Timnit Gebru’s controversial Google exit is setting off a firestorm in tech  - Vox
https://www.vox.com/recode/2020/12/4/22153786/google-timnit-gebru-ethical-ai-jeff-dean-controversy-fired

Google Employees Call Black Scientist's Ouster 'Research Censorship' : NPR
https://www.npr.org/2020/12/03/942417780/google-employees-say-scientists-ouster-was-unprecedented-research-censorship

More than 1,200 Google workers condemn firing of AI scientist Timnit Gebru | Google | The Guardian
https://www.theguardian.com/technology/2020/dec/04/timnit-gebru-google-ai-fired-diversity-ethics

2020年12月3日(木)、Googleで倫理的人工知能(AI)チームのテクニカルリーダーを務めていたティムニット・ゲブル博士がGoogleに解雇されたことが判明しました。解雇の原因となったのは、Googleが利用するAIの言語モデルの倫理的問題を指摘したゲブル博士の論文でした。

Googleが倫理的AIチームのテクニカルリーダーを解雇 - GIGAZINE

ゲブル博士はこれまでに顔認識機能に利用されるAIについて複数の論文を発表している、実績のある人物。顔認識アルゴリズムは過去にGoogle Photosが黒人をゴリラと認識した事件が発生しているように、黒人の認識精度が低いという問題を抱えています。このため犯罪捜査に顔認識ソフトウェアが使用されることも禁じられる方向にあり、IBMは顔認識市場から撤退を表明し、Amazonは警察による技術の使用を停止する措置をとっています。ゲブル博士らが発表した論文は、このような各テクノロジー企業の判断に大きな影響を及ぼしてきました。

しかし今回、ゲブル博士が提出した新たな論文をめぐってGoogleとゲブル博士が対立。Googleでは論文を発表するために社内レビューを通す必要がありますが、この内部レビューの結果、ゲブル博士は論文を撤回するかGoogleをやめることを求められたとのこと。ゲブル博士は論文を撤回する前にGoogleと議論することを求めたそうですが、Googleがそれを拒否したため、ゲブル博士は辞任する旨のメールを送り、その後すぐにGoogleから「辞任を受け入れる」という旨の連絡があったそうです。

ゲブル博士の新たな論文は、Googleの自然言語処理モデルであるBERTに関するもの。GoogleのAIチームは2018年にBERTを作成し検索エンジンに組み込んだことで、大きな成功をおさめました。Googleの検索エンジンは2020年第3四半期だけで263億ドル(約2兆7000億円)の収益をあげています。ゲブル博士の論文は、このBERTに懸念を呈する「確率的オウムの危険性、言語モデルが大きすぎるのではないか？」というタイトルのものでした。

Google AIのリーダーであるジェフ・ディーン氏は、「論文は締め切りの1日前に提出されたこと」「Googleの論文が内容に問題がないかレビューを受けるのは通常のプロセスであること」に加え、「ゲブル博士の論文は多数の関連研究を無視しすぎていたこと」を挙げ、本件が「SNSを通じて数多くの誤解が生じているもの」であり、Googleの対応が正しいものであると主張しました。

About Google's approach to research publication
https://docs.google.com/document/d/1f2kYWDXwhzYnq8ebVtuk9CqQqz7ScqxhSIxeYGrWjK0/

しかし、このようなディーン氏の主張はそもそもおかしいという意見が多くあがっています。オンライン掲示板の「Hacker News」では「チームは違いますが、私がGoogle AIチームで働いていたとき、内部レビューの目的はGoogleの知的財産(データセットやGoogleのインフラの詳細)が外部に漏れないか確認することであり、それ以上ではありませんでした」という投稿があり、ディーン氏の説明こそがGoogleが本来の目的を超えて論文を「検閲」するようになっていることを示すと指摘されています。

About Google's approach to research publication – Jeff Dean | Hacker News
https://news.ycombinator.com/item?id=25307167

またワシントン大学の計算言語学教授であるエミリー・ベンダー氏は「6人の共著者が存在し、128個の参照をリストするこの種の論文は、個人あるいはペアの著者だけでは行えないものです」として、ディーン氏の「関連研究を無視しすぎている」という見方を否定しました。

ゲブル博士はWiredのインタビューで自身が検閲対象になったと感じていることを語り、「常に会社を幸せにする、問題を指摘しない論文だけが発表されるわけではありません。それは研究者が存在する意味とは真逆のものです」と述べました。

Googleの技術的労働力のうち女性は24.7％で、黒人女性はわずか2.4％にとどまります。ゲブル博士が黒人女性だったことから、「これはゲブル博士が行ったことに対する報復であり、Googleの倫理とAIチームで働く、特に有色人種が危機にさらされていることを意味します」という抗議の書簡がGoogleに送られ、1200人以上のGoogle従業員と1500人以上の学術界からの支援者たちが書簡に署名しています。「Googleの企業研究環境では、論文の完全性はもはや当然のものではありません。ゲブル博士の解雇はGoogleがどのような論文を認めているのかという理解を覆しました」と書簡ではつづられています。

なお、本件に関して、Googleやディーン氏は声明以外のコメントを拒否しています。