500円のギフト券でホームレスをだましてGoogleの顔認証改良用3Dデータが収集されていたことが明らかに

by halfpoint

Pixel 4の顔認証機能を改良するため、Googleの下請け企業がお金に困窮するホームレスや学生を対象に、ギフトカードと引き替えに顔の3Dスキャンデータを収集するという戦略を取っていたことがわかりました。3Dスキャンはまるで「ゲーム」や「調査」かのように説明されており、主に肌の色が暗い人を対象としたものだったことが明らかにされています。

Google using dubious tactics to target people with ‘darker skin’ in facial recognition project: sources - New York Daily News
https://www.nydailynews.com/news/national/ny-google-darker-skin-tones-facial-recognition-pixel-20191002-5vxpgowknffnvbmy5eg7epsf34-story.html

Google reportedly targeted homeless people with 'dark skin' to improve AI | Technology | The Guardian
https://www.theguardian.com/technology/2019/oct/03/google-data-harvesting-facial-recognition-people-of-color

Google contractors reportedly targeted homeless people for Pixel 4 facial recognition - The Verge
https://www.theverge.com/2019/10/2/20896181/google-contractor-reportedly-targeted-homeless-people-for-pixel-4-facial-recognition

Googleの画像認識アルゴリズムは肌の色が暗い人をうまく認識できないという問題を抱えており、過去にはGoogle Photosが黒人をゴリラと認識したことが問題としてあがっていました。

Google Photosが黒人をゴリラと認識した事件で開発者が謝罪 - GIGAZINE

Googleは顔認識技術の向上を試みていますが、新たに、Googleの下請け会社が「5ドル(約530円)のギフトカードと引き替えにホームレスを含む一般人から顔のスキャン画像を収集していた」ということをNew York Daily Newsが明らかにしました。

実際にプロジェクトに関わった匿名の情報源によると、「Google TVC」と呼ばれる日雇い労働者が、「Randstad」と呼ばれるGoogleの下請け人材派遣会社から支払いを受け、ホームレスや学生の顔のスキャンデータを収集していた模様。Randstadの担当者はTVCに対し、「映像が記録されていることを隠すかウソをつくかして、有色人種のもとに行って顔を撮影し、データの収集量を最大化させるように」と指示したり、「Snapchatのような自撮りゲームと説明することで顔データを収集するように」と説明したりしたそうです。

またTVCの中には、被写体候補に対して「数分のスマホゲームでギフトカードをもらえる」「5ドルもらえる新しいアプリがある」という説明をするよう指示を受けた人もいます。そして、撮影されたスキャンデータはそれぞれのTVCのユーザーページに保存され、パフォーマンス会議で定期的に評価されました。

これが実際にボランティアが自分の顔を3Dスキャンしているところ。机に上にはスターバックスのギフトカードが置かれています。

アプリはこんな感じ。

TVCはホームレスや大学生、BETアワードの参加者などに対して勧誘を行ったとのこと。Randstadの元従業員は、RandstadがアトランタにTVCチームを派遣し、ホームレスをターゲットにしてプロジェクトへの勧誘を行ったと話しています。「ホームレスはメディアに話す可能性がないからターゲットにすると言っていました」「ホームレスの人々は何が起こっているのか、まったく知りませんでした」と元従業員は話します。「お金に困っている人に対しては『ギフトカードは換金できる』と伝えるように」という指示を受けた人もいます。

また、お金に困窮する大学生にとってもギフトカードは魅力的にうつります。New York Daily Newsは実際にデータ収集を行う大学生TVCに遭遇しており、学生仲間に自分の顔を3Dスキャンしてもらうのと引き替えに5ドルのスターバックスギフトカードを渡すという、仲間を売るような行為を目の当たりにしています。自分の顔を撮影した生徒たちは、顔の3Dスキャンデータが「売られている」とは思ってもみなかったと語りました。3Dスキャンをされた学生は大学に入ったばかりで友だちを作ろうとしており、「新しくAndroidを買ったからテストしたいんだ」というTVCの申し出を受けたと語っています。

時にRandstadは、被写体に対し画像収集が「調査」だと誤解させることもありました。スキャンを行うには被写体が同意書に同意する必要がありますが、同意書を調査アンケートだと考え、被写体は同意書をしっかりと読まないうちに同意してしまうそうです。

アプリにはスキャンの前にこんな感じのアンケートに答え、同意書に同意か否かを意思表示する画面が表示されます。アンケートには年齢や性別のほか、肌の色を答える項目もあります。

Google広報はこの報告を受けて、Pixel 4の顔認証によるロック解除に「公平性」を組み込むため、ボランティアによる研究を行っているという点について認めました。一方で、「うそをつくことや同意書に関するこの報告は、私たちのボランティア研究やトレーニングの要件を侵害しています」「主張を真剣に受け止め、調査を行っています」とGoogleは述べています。なお、GoogleがRandstadに対し「ホームレスをターゲットにするように」と指示した事実はないそうですが、肌の色が暗い人々をターゲットにするよう、Googleマネージャーから指示があったとNew York Daily Newsは記しています。

道行く人に「こんにちは、Googleで働いているのですが、次世代の顔認証スマートフォンのロック解除技術を向上させるためにデータを収集しています」と話しかけ、ギフトカードと引き替えに顔データを収集する人の存在は、2019年7月にも報告されていました。しかし、今回の一件は7月のケースよりも悪質なものといえ、専門家から厳しい批判を浴びています。弁護士のJake Snow氏は「これはGoogleの下請けによる、まったく受け入れがたい行為です。アルゴリズムの偏見を解消するための答えは、弱者をターゲットにすることではありません」と述べています。