2019年02月05日 17時00分メモ

GoogleのAI軍事活用計画に大量のクラウドワーカーがそれと知らずに協力させられていた

by CyberRabbit

2018年3月、Googleはアメリカ国防総省(ペンタゴン)と提携して、ドローンが撮影した映像を解析するAIの開発を支援していると報じられました。ペンタゴンが進めるこの「Project Maven」と呼ばれるプロジェクトにGoogleが協力していた事実は、Google従業員から激しい反発を受けることとなりましたが、新たにGoogleがProject Mavenのために世界中からクラウドワーカーを雇っていたことが明らかになっています。

Google Hired Gig Economy Workers for Project Maven
https://theintercept.com/2019/02/04/google-ai-project-maven-figure-eight/

Googleがペンタゴンと提携してAIの軍事活用に協力しているというニュースにより、Google内部の従業員から大きな反対運動が起こりました。2018年4月には、数千人もの従業員がサンダー・ピチャイCEOに「Googleは軍事技術開発に関わるべきではない」として、嘆願書を提出する事態にも発展しています。

Google従業員3000人以上が「国防総省への協力をやめるべき」とピチャイCEOに嘆願書を出す - GIGAZINE

大きな反発を受けたGoogleは、2018年6月になると「AI技術を兵器開発に使わない」と宣言しました。これによってGoogleはペンタゴンとの新たな契約を結ばないことを決定し、2019年3月に当初の契約が終了するのを待って、Project Mavenから離れることになっています。

Googleが「AI技術を兵器開発に使わない」と宣言、「AI開発の原則」を発表 - GIGAZINE

しかし2019年2月5日にInterceptが報じたところによると、GoogleはProject Mavenのために世界中からクラウドワーカー(ギグワーカー)を雇っており、大量の労働者がそれと知らずにペンタゴンの軍事技術開発に協力させられていたことが明らかになりました。

「ギグエコノミー」とはネットを通じて単発の仕事を受注する働き方、およびその経済形態を指す言葉であり、そこで単発の仕事を受ける労働者をギグワーカーと呼びます。中でも多くのクラウドソーシングサイトで募集されるギグワーカーの仕事は、非常に単調な繰り返し作業であり、個人が得る報酬は1時間あたり1ドル(約110円)にも満たないこともあるそうです。Googleはそんなギグワーカーを利用し、軍事活用されるAI開発の一端を担わせていたとのこと。

Project Mavenの目的は、ドローンに搭載されるAIがビデオ上のオブジェクトを区別できるようにすることです。AIにオブジェクトの区別を付けさせるためには、最初に誰かが「この物体は木で、この物体は建物、この物体は人間」といった風に、画像に写ったオブジェクトをラベル付けする必要があります。そこでGoogleはクラウドソーシングサイトにタスクを発注し、画像上のオブジェクトのラベル付けを行わせたとのこと。

by JESHOOTS.com

Interceptによると、Googleは2017年10月にCrowdFlower(現在はFigure Eightという名称に社名変更済み)に画像データのラベリング作業を発注しました。Figure Eightは、登録したギグワーカーがデータラベリングをはじめとする作業を受注して報酬を得る、世界最大規模のデジタルプラットフォームを提供しており、Googleの依頼もFigure Eightに登録している世界中のギグワーカーによって遂行されたそうです。

Figure EightのアカウントエグゼクティブであるWill Pleskow氏は、2018年9月にInterceptのインタビューを受けた際に、Figure EightのギグワーカーはGoogleのProject Mavenに関係するタスクだと知らずに仕事をしていたことを認めました。このようにギグワーカーが発注元の情報を知らない状態は、ギグエコノミーでは珍しくないことだとPleskow氏は述べています。

「私たちが抱えるギグワーカーは、発注元の情報を知るオプションを持っています。しかし、多くの場合は発注元が『匿名』を希望しているため結局ギグワーカーに発注元はわかりません」とPleskow氏は語ったとのこと。なお、Figure Eightは同様の画像ラベリング作業を自動運転車の精度向上に関する研究などでも受注しているため、Figure Eightから画像ラベリング作業を受注したからといって、それがGoogleの兵器開発に関係したものとはいえないとしています。

実際にFigure Eightから回された仕事をギグワーカーとしてこなしている人物によると、多くの場合発注元についての情報をギグワーカーが知ることはないそうです。また、自分が行っている仕事についても「マシンが製品を認識できるように、製品の周囲を四角で囲んでください」といった程度の説明しかされないとのこと。

by hamonazaryan1

事実上全てのクラウドソーシング企業は、ギグワーカーを社員ではなく単なる請負業者として分類しており、最低賃金や時間外賃金などの規定から外しています。さらにネット上でタスクが遂行可能なため、ギグワーカーはアメリカだけでなくベネズエラやインドネシア、ロシアといった世界中に分散しているとのこと。不透明で個別化されたタスクしか与えられないため、ギグワーカーが発注元の企業の姿勢や倫理感に対し疑問を投げかけることはほぼありません。

Googleでは従業員から大きな反発を受けたことにより、軍事関連のプロジェクトに手を出しにくい状況となっていますが、軍事産業はAIの採用に積極的であるため、多くの大手IT企業が軍事産業への進出を狙っています。そんな中で企業は従業員からの反発を避けるため、ギグワーカーに対して軍事プロジェクトの一端を担わせる手法が多くなるかもしれないとInterceptは述べています。

ボストン大学の社会学教授であるJuliet Schor氏は、「労働者は自分が何の仕事をしているのかを知る絶対的な権利があります」と主張しています。企業は労働者の管理を強める中で職場において労働者の基本的な権利を侵害してきており、国はそれを黙認してきましたが、その状態を覆すべき時が来たとSchor氏は語りました。