GoogleがAI倫理に関する議論を受けて新たなAI責任チームを編成、社内外からは非難の声も

2021年2月18日、Googleが社内のAI倫理に関する業務を再編成し、AI研究部門の内部に新たなAI責任チームを作ると発表しました。新たなAI責任チームのトップには、Googleのヴァイス・プレジデントで、インターネット・プロトコル(IP)を利用して通話する技術・VoIPの開発者としても知られているマリアン・クローク氏が就任したとのことです。

Marian Croak’s vision for responsible AI at Google
https://blog.google/technology/ai/marian-croak-responsible-ai/

Google's new AI ethics lead calls for more 'diplomatic' conversation | VentureBeat
https://venturebeat.com/2021/02/18/googles-new-ai-ethics-lead-calls-for-more-diplomatic-conversation/

Google’s restructuring of its AI teams sparks further criticism
https://thenextweb.com/neural/2021/02/18/googles-restructuring-of-its-ai-teams-sparks-further-criticism/

Googleの新たな責任チームのトップに就任したクローク氏は、AIがインドなどの国々で洪水予測に使われているほか、自動運転車や病気診断といった分野に影響を与える可能性があると主張。その一方で、責任あるAI開発やAI倫理は新しい分野であり、多くの対立や二極化が生じているとのこと。これまでは非常に抽象的な原則しか提唱されてこなかったとして、クローク氏は従来よりも外交的な方法で人々が会話を行うことで、AI倫理を前進させることが重要だと述べています。

今回、GoogleがAI倫理に関する部門の再編を行ったのは、社内でAI倫理を取り巻く議論が紛糾していることを受けたものとみられています。Googleは2020年12月、倫理的人工知能(AI)チームのテクニカルリーダーを務めていたティムニット・ゲブル氏を解雇したとして、社内外から大きな非難にさらされています。

ゲブル氏は2020年、複数人の共著者と共に言語解析AIに関する過去の研究を分析し、「AIがオンラインに存在する偏見を再構成してしまう」といった問題点を指摘した論文を執筆。この論文を規定通りGoogleの社内レビューに回したところ、ゲブル氏は上司から「論文を撤回するように」と迫られたそうです。ゲブル氏がこれを拒否したところ、Googleは「ゲブル氏の辞職を受け入れた」という形でゲブル氏を解雇したとのこと。

Googleが倫理的AIチームのテクニカルリーダーを解雇 - GIGAZINE

GoogleのAI部門リーダーであるジェフ・ディーン氏は、ゲブル氏が執筆した論文への対応は妥当なものであり、ゲブル氏は自ら辞職したと主張。その一方で、「Googleの社内レビューは論文の内容を検閲している」という非難が挙がっているほか、ゲブル氏は辞職したのではなく解雇されたのだと主張しています。

なお、ゲブル氏の解雇は論文の内容だけでなく、「Googleの多様性プログラムはうまく機能していない」と指摘した社内メールが理由だった可能性もあると指摘されています。

以前からAIに存在する人種的偏見の研究などで知られていたゲブル氏の解雇はGoogleの社内外で大きな反響を呼び、合計2000人以上の署名付きでGoogleに抗議する書簡が送付される事態となりました。アメリカのイベット・クラーク下院議員もサンダー・ピチャイCEOに公開書簡を送り、ゲブル氏の解雇について疑問を投げかけたほか、2021年2月には黒人女性に対するGoogleの扱いに抗議して2人のエンジニアが辞職したとのこと。

Googleが倫理的AIチームの研究者を解雇したことは「前例ない検閲」だとして非難集中、Google社員1200人以上が抗議文に署名 - GIGAZINE

また、ゲブル氏の解雇に関連して、GoogleのAI倫理研究者であるマーガレット・ミッチェル氏が「ゲブル氏への対応を調査するため、社内データの参照に自動化スクリプトを使用した」として社内アカウントをロックされたこともわかっています。

クローク氏は新たなAI責任チームのトップへ就任するにあたり、ゲブル氏やミッチェル氏に関する言及はしていません。ゲブル氏はテクノロジー系メディアのVentureBeatに対し、「マリアン氏は非常に熟練した先駆的な科学者であり、私は彼女を称賛し、信頼しています。彼女がジェフ・ディーンやその部下が私のチームにしたことを正当化する様子を目にするのは、非常に苦しいものです」とコメントしました。

ゲブル氏は黒人女性をトップに据えた組織の発表について、黒人女性を黒人女性で無力化するようなものだと指摘。

また、ミッチェル氏は一連の再編について、Bloombergの報道で初めて知ったと述べています。