無実の男性が顔認識システムの誤りのせいで1週間投獄される

機械学習を用いた顔認識システムは地下鉄の運賃や食堂の支払いを自動で行うといったシステムのほか、政府による監視網や犯罪の捜査に用いられています。一方で、顔認識システムの正確性やプライバシー面での是非も議論されており、イタリア規制当局が一部の犯罪捜査・抑止目的以外には利用を禁止したり、アメリカの大都市が相次いで当局による使用を禁止したりしています。特に有色人種の認識で誤認を起こしやすいことが確認されており、2022年末ごろに無実の黒人男性が顔認識システムの間違いにより不当に逮捕されたケースを弁護士が発表しています。

JPSO used facial recognition to arrest a man. It was wrong. | Crime/Police | nola.com
https://www.nola.com/news/crime_police/jpso-used-facial-recognition-to-arrest-a-man-it-was-wrong/article_0818361a-8886-11ed-8119-93b98ecccc8d.html

Facial Recognition Error Sent Randall Reid to Jail, Lawyer Says
https://gizmodo.com/facial-recognition-randall-reid-black-man-error-jail-1849944231

Black man wrongfully jailed for a week after face recognition error, report says | Ars Technica
https://arstechnica.com/tech-policy/2023/01/facial-recognition-error-led-to-wrongful-arrest-of-black-man-report-says/

アメリカのジョージア州在住のランデル・リード氏は2022年11月、ジョージア州の高速道路を車で走行中に警察に止められ、ルイジアナ州で起きた連続窃盗事件の犯行グループの一人として逮捕されました。しかし、リード氏は窃盗などには関与していないどころか、ルイジアナ州に訪れたこともなかったそうです。ルイジアナ州の日刊紙が報じた内容によると、警察は顔認識システムによりリード氏が窃盗の容疑者であるとして令状を発行し、顔認識システムのみを根拠にリード氏を逮捕したとのこと。警察は誤りを認め、リード氏は約1週間後に釈放されました。

リード氏の弁護士を務めたトミー・カロジェロ氏は「リード氏は監視カメラに映っていた犯人より40ポンド(約18キログラム)も軽く、またリード氏の顔のほくろは人間が見比べれば映像の犯人と別人だと分かるにもかかわらず、警察はこの不一致を黙認しました」と指摘し、「顔だけで判断して逮捕することが危険だと彼ら警察は気づいたでしょう」と述べています。実際に、顔認識システムは白人男性の顔をうまく識別するものの、有色人種や女性を識別する際に不正確な結果を出すことを多くの研究が示しています。一部の警察当局では、顔認識システムは手がかりを得るためのみに利用し、逮捕状を発行するための唯一の根拠としては用いるべきではないと認めていますが、明確に顔認識システムの技術を管理するルールが発行されているケースは多くありません。

全米刑事弁護人協会の研修顧問であるクレア・ガービー氏は、「顔認識システムのエラーによって無実の人物が刑務所に入れられるケースは後を絶ちません。容疑者を告訴する唯一の正当な理由として顔認識を使うことは問題であるにもかかわらず、拡大する傾向にあります」と指摘しています。

2020年から2021年にかけて、全米の議会が警察における顔認証の禁止を決議したり、アメリカの大都市が相次いで顔認識システムの使用を禁止する条例を可決したりと、警察が顔認識システムを利用することを禁止する動きが広がっていました。しかし、カリフォルニア州やバージニア州、ルイジアナ州ニューオリンズなど多くの州や都市では顔認識システムの禁止を撤回しており、顔認識システムを制限する動きは勢いを失っています。

アメリカの大都市が相次いで顔認証システムを禁止に - GIGAZINE

by Mike MacKenzie

ガービー氏によると、リード氏が窃盗の罪に問われたルイジアナ州メテリーに隣接するニューオーリンズでは、警察が顔認識システムをどのように使うかについての規則があり、顔認識は手掛かりを得るためにのみ使用されるべきであると警察の方針として定められています。しかし、メテリーやルイジアナ州の他の地域、そしてアメリカ国内の大部分では、法執行機関は顔認識を制限なく使用することができる上に、ほとんどの場合は顔認識が捜査に関与していることを検察が公表する必要さえないとのこと。ガービー氏は「これは被告の憲法上の権利を侵害しています」と主張しています。

リード氏の逮捕状を発行したルイジアナ州バトンルージュの警察は、この件に関して口を閉ざしており、顔認識に関する政策の詳細も明らかにしていません。