警察が抗議者鎮圧に利用するOracleの市民監視ツール「Endeca Information Discovery」とは？

テクノロジーは日々進化していますが、政府や警察がテクノロジーを利用することについては、過剰監視の観点から常に懸念が伴います。そんな中、Oracleの提供するツールが警察によって「SNS投稿からターゲットを掘り起こし、抗議活動の鎮圧を行う」という方法で利用されていたことを、調査報道メディアのThe Interceptが明かしています。このツールはアメリカ国外にも輸出されており、新たに、中国でも売り出されようとしているとのことです。

Oracle Peddled Software Used for Spying on U.S. Protesters to China
https://theintercept.com/2021/05/25/oracle-social-media-surveillance-protests-endeca/

Oracleは2011年、データ検出ソフトを開発するEndecaを買収し、「Endeca Information Discovery」というプラットフォームを発表しました。Endeca Information Discoveryはデータマーケティングといった分野で使用可能なツールですが、The Interceptが入手したOracleの資料によると、シカゴ警察はこれを「犯罪記録・緊急電話・抗議者のツイートとマッチさせるツール」として使用していたとのことです。

たとえば、2012年にNATOサミットがシカゴで開催されたとき、大規模な抗議デモが開かれました。Endeca Information Discoveryは、「誰かがSNSで特定のワードで投稿を行うと、0.5秒後にはソフトウェア上に投稿が表示され、その後投稿が削除されてもソフトウェア上には残り続ける」という機能を持っているため、シカゴ警察は「抗議」といったワードに焦点を当てたり、「ネガティブ感情」でソートを行ったりして、暴動鎮圧に利用していたとのこと。

その後、9年間でEndeca Information Discoveryは着実に顧客を増やし、シカゴ警察だけでなく、アルゼンチン、フィンランド、アラブ首長国連邦などの警察でも利用されていることをThe Interceptは明かしています。

◆データ検出ソフト「Endeca」とは？

1999年に設立されたEndecaは、ビッグデータ時代の追い風を受けて成長し、2003年にCIAが運営するベンチャーキャピタルIn-Q-Telと戦略的提携を結んだほか、ビッグデータ分析を行うPalantirも出資を発表しました。そして、その2年後にはIn-Q-TelがEndecaを国防情報局に導入することを発表しています。当時は対テロへの注目が大きかったこともあり、Endecaは政府機関がデータを視覚化するためのツールの1つとなったとのこと。

連邦機関の支出記録によると、Endecaは最終的にFBIやアメリカサイバー軍、陸軍などでクライアントを獲得していきました。2008年にEndecaはアフガニスタン紛争およびイラク戦争においてテロの関連情報を持っていると疑われて逮捕された人物が連行されたグアンタナモ湾収容キャンプと契約を結んでおり、2019年まで支出記録があること、また求人情報に「Endeca/Oracleのガイド付き検索」という文字があったこともThe Interceptは確認しています。

◆OracleはEndeca買収で警察の「データ駆動型の活動」が可能に
Endecaが政府機関にクライアントを得ていった2000年代初頭、Oracleは警察内にクライアントの基盤を構築していきました。シカゴ警察とOracleの間で行われた「Citizen Law Enforcement Analysis and Reporting(CLEAR)」というプロジェクトがその1つで、人々の逮捕記録やギャングのメンバーに関するデータが保存されています。一方でCLEARは黒人差別の温床となっていると指摘されており、内容の削除が活動家らによって求められています。

Oracleが2011年に11億ドル(約1200億円)でEndecaを買収するまでに、警察はSNS投稿を監視したり、個人情報から犯罪のホットスポットを特定したりするような「データ駆動型の活動」に興味を持っていたとThe Interceptは伝えています。実際、OracleによるEndecaの買収は、警察が政治的抗議活動に躍起になっている最中に行われました。そして買収の翌年である2012年、警察がデモ隊を攻撃した5月20日に、Oracleの元従業員であるRichard Tomlinson氏はEndecaが1日に8000件のツイートを処理していることをTwitterに投稿しました。

Tomlinson氏はプレゼンの中で、警察がEndeca Information Discoveryを使って国家テロ対策センターから取得した1万5000件の情報を元にターゲット検索を行い、目的の人物の居場所を探り当て、情報を引き出す方法について語っています。ソフトウェアを利用して警察が影響力スコアで投稿を並び替え、「ネガティブな感情」でフィルタリングし、特定のユーザーに焦点を当てることについても言及しました。また別の講演でTomlinson氏は警察がEndeca Information Discoveryでソーシャルメディアの投稿をマイニングしたり、数年分の位置情報付き犯罪事件や逮捕メモを利用したりすることが可能であることも示しています。

Lexalytics User Group - Oracle combines realtime social media monitoring with sentiment analysis - YouTube


◆データ駆動型の監視ツールが中国へ
シカゴ警察が記事作成時点もEndeca Information Discoveryを利用しているかは定かではありませんが、Oracleはこのような犯罪捜査ツールを中国でも販売しようとしていると指摘されています。

Oracleが中国で「民衆の弾圧に使われるデータ分析ツールを販売している」との指摘 - GIGAZINE

マーケティングの観点から、アメリカの政府機関をクライアントにすることと、中国にツールを売り込むことは相反するという指摘もあります。実際に、OracleのCEOであるSafra Catz氏はアメリカ政府主導の人工知能に関する国家安全保障委員会のメンバーであり、「中国政府が監視のためにAIを利用することは、私たちの価値観のアンチテーゼです」とも発言しています。Endeca Information Discoveryの中国進出はOracleの主張とは矛盾していますが、The InterceptはOracleの従業員が中国当局の監視プロジェクトのためにこのソフトウェアを売り込んだという資料を入手しているとのこと。「アメリカでテストされた侵襲的なツールを輸出する」という行いは、Oracle以外の大手テクノロジー企業にもみられる傾向だとThe Interceptは指摘しています。

なお、このようなデータ検出ソフトウェアは、Oracle製品だけにとどまりません。黒人差別の撤廃を訴える「ブラック・ライヴズ・マター」の抗議活動の鎮圧には、Twitterと提携関係にある新興AI企業Dataminrのソフトウェアが利用されたことも報じられています。

Twitterと関係が深いAI企業が「反人種差別の抗議活動を監視し警察に情報提供していた」と報じられる - GIGAZINE