顔認識技術のせいで無実なのに間違って逮捕された男性

by Steve Jurvetson

捜査で顔認識技術が使われたことが理由で、無実の男性が全く身に覚えのない罪で、ある日突然逮捕されるという事態が起こりました。

Wrongfully Accused by an Algorithm - The New York Times
https://www.nytimes.com/2020/06/24/technology/facial-recognition-arrest.html

Facial Recognition Leads To False Arrest Of Black Man In Detroit : NPR
https://www.npr.org/2020/06/24/882683463/the-computer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig

スマートフォンやPCのロック解除に使われる顔認識を、近年は警察も捜査に使っており、中国では逃亡者を6万人参加のコンサート会場から見つけだしたとも報じられました。しかし、顔認識システムの精度は100％ではなく、ロンドン警視庁の運営するライブ顔認証システムは「容疑者」と認識された人のうち81％が無実だったという精度の低さが指摘されるほか、特に黒人で間違いが多いことが問題となっています。

そして実際に、無実の黒人男性が顔認識ソフトウェアを理由に誤って逮捕された一件が、ニューヨーク・タイムズによって報じられています。

誤逮捕されたのはロバート・ジュリアン・ボルチャク・ウィリアムズ氏。ウィリアムズ氏は2020年1月のある木曜日の午後、デトロイト警察からの出頭要請をオフィスで受け取りました。全く身に覚えのなかったウィリアムズ氏は、最初イタズラ電話だと思ったそうです。

しかし、電話はイタズラではなく、実際にその30分後にウィリアムズ氏は妻と2人の娘の目の前で手錠をかけられました。逮捕時、警察はウィリアムズ氏がなぜ逮捕されたのかを説明せず、ウィリアムズ氏の写真とともに「重罪令状」「窃盗」と書かれた紙を提示したのみだったとのこと。

拘置所に連行されたウィリアムズ氏は一晩中拘束され、翌日の午後に尋問室で2人の刑事から3枚の紙を見せられました。この紙にはミシガン州デトロイト市の高級ブティックに設置された監視カメラの写真が印刷されており、赤い帽子をかぶった男が写っていたとのこと。ブティックからは合わせて3800ドル(約41万円)相当の時計5つが盗み出されており、この窃盗の容疑がウィリアムズ氏にかかっていたわけです。

しかし、低画質の画像からクローズアップされた男の姿は、明らかにウィリアムズ氏ではありませんでした。刑事から「これはあなたですか？」と尋ねられたウィリアムズ氏は「いいえ、違います。あなたは全ての黒人男性が似通っていると思っているんですか？」と返したそうです。

デトロイト警察が使っていた技術は、DataWorks Plusという企業に550万ドル(約5億9000万円)で提供された顔認証技術。もともとDataWorks Plusはマグショット管理ソフトを提供していましたが、その後、提供する製品を拡張し、顔認証技術の販売を開始しました。

この顔認証技術の精度が100％でないことは警察側も認識しており、州からデトロイト警察に送られた資料には「これは捜査をリードするだけのものであって、逮捕の理由ではありません」と説明されていたとのこと。捜査では顔認識技術以外に目撃証言や容疑者が着ていた服を所有している証拠などが求められた可能性もありますが、最終的に、高級ブティックの警備員にウィリアムズ氏の写真を見せた時の反応をもとに、ウィリアムズ氏は逮捕されたとのこと。

ウィリアムズ氏は逮捕から30時間の拘束を経て、妻のメリッサさんが支払った1000ドル(約11万円)の保釈金により釈放されました。ウィリアムズ氏は複数の弁護士に連絡を取りましたが、弁護士のほとんどはウィリアムズ氏が有罪であることを前提に契約を結ぼうとしたそうです。

しかし、その後、弁護士のヴィクトリア・バートン・ハリス氏やミシガン州のアメリカ自由人権協会(ACLU)の協力もあり、ウィリアムズ氏の告訴は「証拠が不十分」だとして取り下げられました。多くの刑事事件では、逮捕された人は「顔認識技術が捜査に用いられたかどうか」を知るすべがありませんが、今回の事件では警察が顔認識技術の利用を認めています。ミシガン州のACLUはデトロイト警察に対して捜査において顔認識ソフトウェアの使用を停止するよう求める訴状を提出しています。

マサチューセッツ工科大学(MIT)の情報工学者であるジョイ・ブオラムウィーニ氏は今回の事件を受けて、「大量監視によって市民の自由は大きすぎる脅威にさらされています。勾留された30時間の経験や、父親が逮捕される様子を見た子どもたちの記憶、『犯罪者』というラベルを付けられた汚名は消すことができません」とコメント。ウィリアムズ氏は窃盗の容疑をかけられましたが、同じことが殺人事件でも起こっていることも考えられます。

なお、このような顔認証技術の不正確さによる影響を鑑み、2020年6月にはIBMが顔認識市場から撤退を表明しており、警察に顔認証技術を販売していたAmazonも同技術の警察による使用を1年間停止すると発表しました。