「顔認証ソフトウェアの誤認率は96％に達する」と警察署長が明かす

by EFF Photos

デトロイト市警察が顔認証ソフトウェアを証拠として逮捕した黒人被疑者が、「証拠不十分」で釈放されました。この一件について、デトロイト市警察は「犯罪者の特定に使われる顔認証ソフトウェアの誤認率は96％に達する」と明かしました。同市において、顔認証ソフトウェアはほとんど黒人に対してのみ使われているため、黒人に対する不当な扱いを示す実例として物議を醸しています。

VICE - Detroit Police Chief: Facial Recognition Software Misidentifies 96% of the Time
https://www.vice.com/en_us/article/dyzykz/detroit-police-chief-facial-recognition-software-misidentifies-96-of-the-time

Detroit police chief cops to 96-percent facial recognition error rate | Ars Technica
https://arstechnica.com/tech-policy/2020/06/detroit-police-chief-admits-facial-recognition-is-wrong-96-of-the-time/

2018年10月、デトロイト市にある高級小売店から総額3800ドル相当(約41万円)の腕時計5個が盗まれました。デトロイト市警察は防犯カメラに映っていた映像を用いて顔認証検索を実施。運転免許証の写真と合致したとして、2020年1月にミシガン州に住むロバート・ジュリアン・ボルチャク・ウィリアムズ氏を逮捕しました。

逮捕されたウィリアムズ氏は警察の尋問中に、「防犯カメラの映像に映っている男はどう見ても自分ではない」と反論。アメリカ自由人権協会がウィリアムズ氏に代わって公式に異議申し立てを行った結果、「顔認証ソフトウェアによる照合以外に証拠は存在しない」として、2020年6月にウィリアムズ氏は釈放されました。

顔認識技術のせいで無実なのに間違って逮捕された男性 - GIGAZINE

by Steve Jurvetson

デトロイト市警察が用いているのは、法執行機関向けのデバイスやシステムを提供しているDataWorks Plusの顔認証ソフトウェア。2020年6月29日に実施された公開会議の中で、デトロイト市警察のジェームズ・クレイグ署長は、「(犯人特定に)このソフトウェアだけを使った場合、95～97％の確率で事件を解決することができなくなります。96％の確率で誤認逮捕になると思われます」と語り、このソフトウェアが犯人と別人を取り違う確率が非常に高いと認めました。

デトロイト市警察が公開した(PDFファイル)資料によると、問題の顔認証ソフトウェアは2020年6月22日までに70回使用されています。この70回のうち、68回が黒人を対象とした捜査で、残り2回は人種不明と思われる対象についての捜査だったとのこと。顔認証に使われた画像は、70回中31回がソーシャルメディアの写真、18回が防犯カメラの写真でした。

この種の顔認証技術は特に黒人の誤認率が高いという問題がかねてより指摘されており、デトロイト市は2019年末に「ムービーから得られた画像は顔認証検索に使わない」という決定を下していました。しかし、ウィリアムズ氏に関する捜査は、この決定よりも前に行われたとのこと。

DataWorks Plusのゼネラルマネジャーであるトッド・パストリーニ氏は、「実際の使用時における精度に関する統計記録は存在しません。問題はソフトウェアの使い方にあります」と回答。この種のソフトウェアはあくまで犯人候補を「絞り込む」ためのものであり、「特定する」ものではないと説明しました。

デトロイト市では捜査のための顔認証技術の利用を停止する議案が市議会に提出されています。なお、マサチューセッツ州ボストン市では、デトロイト市に先立って顔認証技術を禁止しています。

アメリカの大都市が相次いで顔認証システムを禁止に - GIGAZINE

by Mike MacKenzie