Googleが自社技術に関する論文を前向きな論調にするよう研究者に求めていることが判明

Googleが、社内の研究者による人工知能(AI)についての論文に対しての査読で、論調を前向きなものにするよう求めていたことがわかりました。Googleの社内査読をめぐっては、「論文の内容を撤回するか、辞任するか」と求められた倫理的AIチームのリーダーが撤回を拒否する一件があり、このリーダーを解雇したことで、社内外から大きな非難の声が挙がっていました。

Google told its scientists to 'strike a positive tone' in AI research - documents | Reuters
https://www.reuters.com/article/us-alphabet-google-research-focus-idUSKBN28X1CB

Google reportedly asked employees to ‘strike a positive tone’ in research paper - The Verge
https://www.theverge.com/2020/12/23/22197760/google-sensitive-topics-review-research-papers-timnit-gebru

ロイター通信が内部の関係者から得た情報によると、Googleは2020年6月から「際どい話題」についての査読を導入し、これまでに少なくとも3つの事例で、技術を否定的に扱うことを控えるよう著者に求めたとのこと。

コンテンツをユーザーに薦める技術に関する研究の著者は、2020年夏に研究内容を発表するにあたって、Googleのシニアマネージャーから「前向きな論調になるように、細心の注意を払ってください」と声をかけられました。この論文ではYouTubeについて言及していましたが、最終的に、Googleの製品について言及した部分はすべて削除することになったそうです。

Googleが「技術に害を及ぼす可能性のある重大な研究」に干渉し始めていると感じている研究者のマーガレット・ミッチェル氏らは、「我々が専門知識に基づいて適切なものを研究しても、高品質な査読に沿わないという理由で公表を許されないのであれば、『検閲』という深刻な問題に直面しているということです」と危機感をのぞかせています。

ミッチェル氏らが所属する倫理的AIチームを率いていたティムニット・ゲブル博士は、社内査読において論文撤回を求められ、「論文について議論を深めないのなら辞任する」と撤回を拒否。社内の多様性問題などについて同僚に相談するメールを送ったことと合わせて問題視され、解雇されました。

Googleが倫理的AIチームのテクニカルリーダーを解雇 - GIGAZINE

この一件はGoogle社員1200人以上が抗議文に署名するなど、社内外で大きな批判を呼ぶこととなり、サンダー・ピチャイCEOが全社員に宛てて、調査を行うことを約束するメールを送る事態になっています。

GoogleのAI研究者が解雇された一件でサンダー・ピチャイCEOが全社員に宛てたメール全文 - GIGAZINE

by FinnishGovernment

なお、Googleによる社内査読は、本来は企業秘密を不用意に漏らしてしまわないようにチェックすることを目的としたものですが、2020年6月から行われている査読の「際どい話題」の対象には「石油産業」「中国」「イラン」「イスラエル」「新型コロナウイルス感染症(COVID-19)」「ホームセキュリティ」「保険」「位置データ」「宗教」「自動運転車」「通信」「ウェブコンテンツを推薦またはパーソナライズするシステム」など広範なものが含まれているとのことです。