Amazonの顔認識技術が28人の議員を「犯罪者」と誤認

アメリカ自由人権協会(ACLU)が、Amazonの開発した顔認識API「Amazon Rekognition」を使用して、連邦議員の顔写真を犯罪者の顔写真データベースと照合したところ、「28人の議員が犯罪者であると誤認識された」と発表しました。この結果を受けて、ACLUは顔認識技術を警察・法執行機関へ導入することに対して改めて懸念を表明しています。

Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots | American Civil Liberties Union
https://www.aclu.org/blog/privacy-technology/surveillance-technologies/amazons-face-recognition-falsely-matched-28

Amazon’s facial recognition matched 28 members of Congress to criminal mugshots - The Verge
https://www.theverge.com/2018/7/26/17615634/amazon-rekognition-aclu-mug-shot-congress-facial-recognition

「監視カメラの映像に映る顔を、犯罪者の顔写真データベースと照合することで、群衆の中にいる犯罪者を見つけ出す」という顔認識技術の応用がさまざまな国の警察で導入されつつあります。例えばAmazonは、自社開発の顔認識技術「Amazon Rekognition」を、少なくともアメリカの2つの州の法執行機関や警察用のボディカメラ製造会社などに販売していたことが判明しています。

しかし、顔認識技術の精度は実用に耐えるほど高いとはいえず、既に顔認識技術を警察で運用し始めているイギリスでは誤認識率が98%に達するという結果が明らかとなり、批判を集めていました。こうした顔認識技術への信頼性の低さから、アメリカでもさまざまな人権団体が顔認識技術の導入に対して懸念を表明していました。

ACLUは、実際に法執行機関に納入されているというAmazon Rekognitionの精度を確認するテストを行いました。2万5000枚から構成される犯罪者の顔写真を使用して、Amazon Rekognitionで顔のデータベースと検索ツールを構築し、連邦議会の下院と上院のすべての議員の公開写真と照らし合わせてみました。

テストの結果、28人の議員が犯罪者の顔と一致したと報告されました。特に、Amazon Rekognitionが誤認識した28人の議員のうち、およそ40％にあたる11人が有色人種だったとACLUは報告しています。連邦議会議員の中で有色人種の割合はおよそ20％というデータを考えると、有色人種の方が白人より誤認されやすい可能性があるとACLUは指摘しています。

2018年5月、連邦議会議員の有色人種のメンバーが集まる会「Congressional Black Caucus(CBC)」は、Amazonのジェフ・ベゾスCEOに対して「黒人にとって顔認識は意図しない結果を生むかもしれないため、法執行機関にRekognitionを販売するのをやめるべき」と手紙を出していましたが、CBCの懸念を裏付けるような結果になったとACLUは論じています。議会議員の顔写真を使用したこのテストの結果の反響は大きく、既に3人の議員が(PDF)ジェフ・ベゾスCEOに対する公開書簡に署名しています。

ACLUは、顔認識による警察の監視は黒人や移民が政府組織に虐げられる可能性を生むとして、法執行機関の顔認識技術の使用をやめるべきだと強く主張しています。ACLUのテストを計画したジャコブ・スノー氏は「これはもしかしたらの話ではありません。顔認識技術は既に使用されているのです」と語っています。