ライブ顔認証システムが見つけた「容疑者」のうち81％は無実

by Niv Singer

ロンドン警視庁が運用している、監視カメラの映像内に写った顔とデータベースの顔写真を照合して容疑者を見つけ出すライブ顔認証システム(LFR)は「極めて不正確な精度で運用も不透明」と指摘を受けています。このたび、ロンドン警視庁からの依頼を受けてLFRに関する調査が行われ、「容疑者」と認識された人のうち81％が無実だったという精度の低さが浮き彫りとなっています。

met police live facial recognition trial concerns | University of Essex
https://www.essex.ac.uk/news/2019/07/03/met-police-live-facial-recognition-trial-concerns

81% of 'suspects' flagged by Met's police facial recognition technology innocent, independent report says | Science & Tech News | Sky News
https://news.sky.com/story/met-polices-facial-recognition-tech-has-81-error-rate-independent-report-says-11755941

LFRは自動顔認証システム(AFR)とも呼ばれ、2016年8月に「ノッティングヒルカーニバル」で初めて導入されて以降、他のイベントでも使われてきました。しかし、2017年のUEFAチャンピオンズリーグの決勝戦では2000人以上のサッカーファンが犯罪の容疑者と誤判定されるなど、その精度には以前から疑問が投げかけられていました。

これを受けて、システムを運用しているロンドン警視庁はエセックス大学に調査を依頼。ピート・フュッシー教授とダラー・マレー博士が調査を行い、独立した報告書を提出しました。

(PDFファイル)Independent Report on the London Metropolitan Police Service's Trial of Live Facial Recognition Technology

報告書では、国内法でLFRを使用するための明示的な許可がないため、裁判所が異議を申し立てた場合、警察によるLFRの展開が違法と判断される可能性が高いと指摘されています。

また、具体的な問題点として、調査対象の事案の中で、LFRにより抽出された容疑者の数は42人いましたが、本当に犯人だったケースは8人で、34人が無実だったという指摘があります。これは、LFRによる容疑者の認識精度がわずか19％だったことを示しています。その一方で、ロンドン警視庁の用いていた測定基準では、エラー率は「0.1％」でした。

そもそも、監視対象とする人物のリストに掲載される基準も明確ではなく、LFRで特定しようとしていた人々はカテゴリーもばらばらだったとのこと。リスト自体も正確さを欠き、すでに裁判が終わっている人物がリストに掲載されている事例もあったそうです。

運用自体にも問題が指摘されており、反監視キャンペーングループ・ビッグブラザーウォッチのシルキー・カルロ氏はSky Newsに対して「問題は、ロンドン警視庁がLFRの使用中止をいつ決定するかということです」と語っています。

一方で、LFRを運用するロンドン警視庁のダンカン・ボール氏は「報告書が否定的で不均衡なトーンであることに失望しています。我々は、ロンドンを安全にするために犯罪と戦うにあたり、大衆が革新的な方法を期待していると考えています」と述べています。