Googleが倫理的AIチームのテクニカルリーダーを解雇

Googleで倫理的人工知能(AI)チームのテクニカルリーダーを務めていたティムニット・ゲブル博士が、2020年12月3日(木)、AI部門のシニアフェロー＆シニアヴァイスプレジデントであるジェフ・ディーン氏からメールで解雇を通告されたことを明かしました。解雇理由は「経営陣が『Googleのマネージャーの期待に反する』とみなしたメールを送信したこと」で、AI研究の専門家やGoogle従業員からは抗議の声が挙がっています。

Google’s Co-Head of Ethical AI Timnit Gebru Says She Was Fired for Email - Bloomberg
https://www.bloomberg.com/news/articles/2020-12-03/google-s-co-head-of-ethical-ai-says-she-was-fired-over-email?sref=ExbtjcSG

The withering email that got an ethical AI researcher fired at Google - Platformer
https://www.platformer.news/p/the-withering-email-that-got-an-ethical

ゲブル氏によると、解雇のきっかけとなったのはAIに関する論文を巡る問題だとのこと。論文は言語モデルの倫理問題を論じたもので、ゲブル氏がGoogleの同僚4人を含めて合計6人で執筆していました。

Googleでは論文を発表するためには社内レビューを通す必要があるのですが、Googleは論文撤回を求めてゲブル氏と対立。ゲブル氏が「論文についてさらなる議論を行わないのであれば辞任する」と表明したのに対して、Googleは議論を拒否。さらに、ゲブル氏が「Google Brain Women and Allies Listserv」のメンバーに、Googleにおける多様性の問題や、自身が黒人女性であることで疲弊した経験についてメールを送ったことと合わせて問題視し、Googleは解雇を通告しました。

ゲブル氏はAIに関する研究者として一流で、顔認識ソフトウェアが白人男性であればほぼ正確に機能するものの、浅黒い肌の女性については誤認率が35％あることを示した2018年の研究が広く知られています。

また、Google社内でわずか1.6％しかいない黒人従業員の中でも、特に少ない黒人女性研究者の1人であり、失職した元従業員に対するサポート活動を行う人物でもありました。

Google従業員やAI研究者は、リーダーの解雇はGoogleにおける倫理研究を萎縮させるものであるとして反発。「Standing with Dr. Timnit Gebru」というサイトを作って、Googleに説明を求めています。

Standing with Dr. Timnit Gebru — #ISupportTimnit #BelieveBlackWomen | by Google Walkout For Real Change | Dec, 2020 | Medium
https://googlewalkout.medium.com/standing-with-dr-timnit-gebru-isupporttimnit-believeblackwomen-6dadc300d382

「Standing with Dr. Timnit Gebru」ではGoogleに対して、以下の3点を要求しています。

1：我々は、Googleのシニアフェロー兼研究部門シニアヴァイスプレジデントのジェフ・ディーン氏、およびGoogle Brainのエンジニアリング部門ヴァイスプレジデントのメーガン・カチョリア氏、その他ゲブル博士の論文の検閲に関わった人たちに対し、倫理的AIチームと面会し、論文が一方的に却下された過程の説明を求めます。

2：我々は、大規模言語モデルについての研究論文を撤回するようゲブル博士とその同僚に命じたGoogle指導部の決定について、Googleユーザーや学界の同僚を含む公衆に対する透明性を求めます。本件は国民の関心事となっていて、今後のGoogle Researchへの信頼確保のために、Googleは公的な説明責任を果たす必要があります。

3：我々は、Google Researchが研究の完全性と学問の自由に対する明確な言質と、そのことをGoogle Researchの研究理念において抜本的に強化することを求めます。また、研究がどのように審査されるか、研究の完全性がどのように尊重されるかについて明確なガイドラインを作ることで、GoogleのAI原則の目標を達成するための研究を支援していくことを求めます。

この件について、ジェフ・ディーン氏はGoogle社員に対して「ゲブル氏が執筆した論文は、レビューが2週間かかるのに、締切の1日前に提出されました」「また、論文は公開の基準を満たしていなかったことがわかりましたが、すでに提出済みでした」「ゲブル氏とはメールでやりとりをした際、彼女が求める条件が満たされない場合は辞任するという話があり、彼女の決定を受け入れて尊重しました」と説明するメールを送っています。