銃声を検知して犯罪を減らすはずのAI「ShotSpotter」が街を混乱に陥れている

アメリカ・イリノイ州のシカゴでは、銃暴力の根絶と治安向上のために「ShotSpotter」というAI駆動の銃声検出センサーが設置されています。ShotSpotterは銃声を検出し、その銃声がどこで発生したのかという情報をアラートとして警察に届けていますが、近年はShotSpotterが銃暴力を減らすことに役立っていないばかりか、冤罪を生み出していると指摘されています。

Police Are Telling ShotSpotter to Alter Evidence From Gunshot-Detecting AI
https://www.vice.com/en/article/qj8xbq/police-are-telling-shotspotter-to-alter-evidence-from-gunshot-detecting-ai

2020年5月31日に25歳のサファライン・ヘリングさんが銃で頭を撃たれて死亡した事件では、ShotSpotterが利用された結果、64歳のマイケル・ウィリアムズさんという男性が逮捕されました。この事件が起こった23時46分、通りに設置されたShotSpotterは、ある「音」を検出しました。当初、ShotSpotterのアルゴリズムは音を「花火の音」と認識。当時はジョージ・フロイドの死に対する抗議デモが起こっており、デモに関連した花火だと考えられました。

しかし、その後ShotSpotterのアナリストがアルゴリズムを無効にし、手動に切り替えて分析した結果、音が銃声であると判断されました。さらに数カ月経過して事件の捜査が行われた際に、別のShotSpotterアナリストが音の検出された座標を、当時ウィリアムズさんがいた区画だと決定。監視カメラの映像から、車に乗っていたウィリアムズさんが容疑者として逮捕されたというわけです。なお、ウィリアムズさんは、走り去る車にヘリングさんが撃たれたのだと主張しました。

裁判でウィリアムズさんの国選弁護人は、裁判官に対してShotSpotterが法的証拠となる正当性について検討するよう求めました。国選弁護人は「人が関与するこのような方法により、ShotSpotterの出力した内容は『いかなる刑事事件にも関係しないデータ』から『ウィリアムズさんが関連する殺人事件の目玉となるデータ』に劇的な変化を遂げました」と主張。最終的に検察官はウィリアムズさんに対するShotSpotterを使った証拠を、全て撤回したとのことです。

ShotSpotterはアメリカの100都市以上で利用されており、年間2万1000件ものアラートを生成しています。警察の要請に応じてShotSpotterのアナリストがアルゴリズムが検出したデータを手動で分析することも多いため、上記のようなケースは珍しくないそうです。

しかし、ShotSpotterのマーケティングおよび製品戦略担当上級副社長であるサム・クレッパー氏は、これまで190件の裁判でShotSpotterの技術や従業員の証言が認められてきたと述べており、ウィリアムズさんの裁判で検察がShotSpotterを使った証拠を撤回したことをもって、自社の技術に対する信頼がなくなったとは言えないと主張しました。

またクレッパー氏はアルゴリズムではなくアナリストが手動で座標を分析するケースがあると認めつつ、「90％以上は機械による分析です。ごく少数のケースについて、場所の正確性について検証するようお客様からロケーション分析のご要望があります。もしエラーがあった場合、調査を支援すべく、お客様に対してより正確なロケーションをお伝えします」と説明しました。

ShotSpotterは97％の精度を持つと(PDFファイル)主張していますが、この数字はエンジニアによって算出されたものではなく、営業・マーケティングチームによって保証されているという点も、懸念されているところ。実際に2021年5月にマッカーサー司法センターがShotSpotterのデータ分析を行ったところ、過去21カ月にシカゴで発生したアラートの89％が銃犯罪の証拠とならず、86％がいかなる犯罪の証拠にもならなかったと示しており、その有効性に疑いが持たれています。

加えて、「ShotSpotterを配備しても都市における犯罪は減少しない」とする研究結果も増加。南イリノイ大学エドワーズビル校の研究では「セントルイスにおいて、ShotSpotterは銃に関連した犯罪の抑制にほとんど影響せず、警察の応答時間の一貫した短縮もなく、実用的な結果を生み出すことに役立ちません」と記されています。実際に「誤警報が多く、投資収益率が悪い」としてShotSpotterとの契約を解除する顧客も存在するとのことです。

シカゴはShotSpotterにとって主要な顧客の1つであり、2017年から2021年までの間に9万4313件の銃撃アラートが発されました。これは年間平均2万958件にあたります。

2021年4月にはシカゴで両手をあげた13歳のアダム・トレドさんが警察官に射殺されましたが、この事件でもShotSpotterのアラートが発されました。人種と経済に関するアクションセンターのアリクス・グッドウインさんは「この手のツールはより多くの警察を黒人やラテン系の暮らす地域に送り込みます。ShotSpotterのアラートは黒人やラテン系の人々を警察官と関わるリスクにさらします。これがアダム・トレドさんの身に起こったことです」とコメント。

実際にニュースメディアのMotherboardが入手した資料には、シカゴでの銃犯罪は街中で起こっているにもかかわらず、ShotSpotterのセンサーが黒人とラテン系が暮らす地域にばかり配置されていることが示されていたとのこと。街の北部・北西部といった白人が集中して暮らす地域にセンサーはなかったそうです。