中国の「全てを監視するシステム」はAIによってどのような進化を遂げるのか？

円形に配置した監房の中央に監視塔を置くことで、囚人からは看守も他の囚人も見えず、監視塔の看守のみが囚人全員を監視できるシステム、パノプティコンは「全展望監視システム」とも呼ばれています。中国において、政府があらゆる場所であらゆる角度から全市民を監視するシステムが実装されつつあり、ジャーナリストのロス・アンデルセン氏が「デジタル・パノプティコン」とも言えるAIを駆使した中国の監視体制について解説しています。

China’s Artificial Intelligence Surveillance State Goes Global - The Atlantic
https://www.theatlantic.com/magazine/archive/2020/09/china-ai-surveillance/614197/

中国の総合研究および自然科学における最高研究機関・中国科学院には、中国トップクラスの研究者がAIの研究を行う「自動化研究所」があります。習近平国家主席は自動化研究所に大きな関心を寄せており、2030年までに中国がAIの覇権を握るための構想を打ち出すほど、中国国内におけるAI技術の発展を重要視しています。

中国がAIの発展に力を入れる理由の1つとして、アンデルセン氏は中国政府が長年にわたって監視システムの導入・発展に力を入れてきたことを挙げています。中国国内には何億台もの監視カメラが設置されており、カメラから収集した映像の多くはセキュリティ上の脅威を発見するため独自のアルゴリズムによって解析されます。「近い将来、公共の場に足を踏み入れるすべての人は、SNSからの情報や体の特徴など、大量の個人データからAIによって瞬時に識別されるようになるでしょう。やがてアルゴリズムは、行動記録、友人や知人の関係などから得られる情報源をつなぎ合わせて、個人の政治的抵抗を事前に予測できるようになる可能性があります。中国政府は間もなく、10億人以上の人々に対する前例のない政治的制圧を成し遂げるかもしれません」とアンデルセン氏は主張しました。

◆新疆ウイグル自治区における実験的な監視体制
新型コロナウイルスの発生に伴い、中国ではスマートフォンアプリから感染者をカラーコードで識別し、利用者の個人情報や位置情報を警察に送るアプリが配布されていたことをニューヨーク・タイムズが報じています。しかし、それ以前にウイグル族が暮らす中国北西部の新疆ウイグル自治区では、アプリから個人をカラーコードで識別するシステムの前身がすでに運用されていました。ウイグル族を実験台とすることで、中国全土にAIの監視を拡大する狙いがあるとアンデルセン氏は指摘しています。

ウイグル族は、2009年に起きた中国人によるウイグル族の殺傷をきっかけに大規模な抗議行動を起こし、2009年ウイグル騒乱へと発展しました。習主席は新疆ウイグル自治区に対してモスクを破壊するなどしてウイグル族を弾圧し、100万人以上のウイグル人を強制収容所へ連行しました。

騒乱をきっかけに、ウイグル族に対する監視が強化されました。ウイグル族が持つスマートフォンはほとんどがマルウェアによって監視されていると報告されています。人類学者のダレン・バイラー氏によると、警察によって強制的にインストールされたマルウェアもあり、マルウェアによってウイグル族のスマートフォンは常にチャットログのスキャンや画像ファイルの検閲が行われています。さらに、ウイグル族は暗号化されるチャットアプリをダウンロードできず、オンラインショップでイスラム教に関する商品を購入したり、イスラム教の本のデジタルコピーを保存したりすることは、警察からすべて危険な行為と見なされます。

スマートフォンにマルウェアを仕込むだけでなく、警察は新疆ウイグル自治区に検問所を設けてウイグル族のスマートフォンから最近の通話やテキストメッセージを細かくチェックしています。一方でデジタル機器の不所持も疑惑の対象となっており「ソーシャルメディアから完全に離れることも解決策ではない」とアンデルセン氏は指摘。警察は、ウイグル族の人々が通常の行動パターンから逸脱した行為をしたら注意するよう指示されています。不審な動きを捉えるため、監視カメラによって以前よりも隣人と話す時間が減ったか、電気の使用量に異常はないか、という生活の細かな点までもウイグル族は警察に監視されているのです。

新疆ウイグル自治区にも数多くの監視カメラがあり、ウイグル族は地区間を移動するだけでも何十台もの監視カメラを備えた検問所を通らなければなりません。監視カメラの映像から、警察が事前に撮影したウイグル族の写真と照合するアルゴリズムによって検閲が行われています。警察は写真に加え、人々の身長を測り、血液サンプルを採取し、声も記録しているとのこと。それだけでなく、警察はウイグル人の遺体から遺伝子データを採取して詳細な調査を行っており「さらに多くのデータを入手する口実として、新型コロナウイルス感染症を利用する可能性が高い」とアンデルセンは推測しました。

また、ウイグル族の女性に対しては厳しい妊娠検査が行われており、中には中絶を余儀なくされる人もいます。許可されていない出産をした母親は警察によって拘束され、子どもと引き離されることから新疆ウイグル自治区では3年間で出生率が60%以上減少した地域も存在するとアンデルセン氏は述べています。

「習主席は新疆ウイグル自治区を監視システムの実験室として利用し、全てを監視する『デジタル・パノプティコン』の調整をしてから中国全域にその範囲を広げるようです。新疆ウイグル自治区における監視システムの多くを構築した国有企業であるCETCはすでに浙江省や広東省の一部で監視システムの試験プロジェクトを実施しています。同社によるとプロジェクトは『全国展開のための強固な基盤』で、中国の巨大なデジタル・パノプティコンの一部にすぎないということです」とアンデルセン氏は語りました。

◆中国における監視社会の未来
中国の膨大な人口と、国内に10億台以上あるスマートフォンなどのデバイスすべてに高性能センサーが搭載されていることから、アンデルセン氏は「中国はデジタル・パノプティコンの実験に理想的な環境である」ともコメント。中国では、検索エンジンのクエリ・訪問したウェブサイト・モバイル決済などがタイムスタンプと位置情報を紐付けてセンサーによって記録されています。また、電話会社はスマートフォン契約時に購入者の顔をカメラでスキャンしているため、スマートフォンのデータを特定の人の顔に紐付けることも可能になっています。

アメリカの警察もまた、Amazonのホームセキュリティカメラ「Ring」の映像などを利用して監視システムの拡大を進めています。しかし、中国政府は監視カメラから映像を収集するだけでなく、ドローンや自動運転車などから得られる映像や情報を収集して、都市を管理するAI「City Brain」で大量のデータをつなぎ合わせて補完することで、街全体の映像を秒単位で更新する技術を実現しています。

「今後数十年のうちに、City Brainやその後継システムは、暗黙の思考さえ読み取ることさえできるようになるかもしれません。実際、ドローンはすでに脳波を感知して制御できるようになっています。将来、十分な力を持つ権威主義の国家は、市民の神経活動のあらゆる情報を政府のデータベースに送信するようソフトウェアメーカーに命じる可能性もあります」とアンデルセン氏は語りました。なお、中国の監視システムはまだ発展途上であり、個人データの形式がシステムを提供する企業によって統合されていないなどの問題もあります。しかし、「すべてのデータの統合は難しい問題ではない」ともアンデルセン氏は述べています。

◆中国政府と監視社会を望まない人々
「中国の政治構造は、AIテクノロジーにおける最悪の使用方法を制限するのではなく奨励しています。人権が憲法で保障された民主主義国家であるアメリカは、監視国家の誕生を阻止しようと苦闘しており、少なくともアメリカには人々が監視社会に抵抗できる可能性のある政治構造があります。ですが中国では、すべてが政府の要求通りになる政治構造ができあがっているのです」とアンデルセン氏はコメント。

さらにアンデルセン氏は「徹底的な監視社会を求める政府を阻止することは難しく、市民が不服従を示す行動が何百万回も必要になるでしょう。不服従を示すことが市民にどんな困難をもたらすか、市民がその困難に耐えられるかを予測することはできません。中国の人々は、まだ監視に対して過激になっていないようです。新型コロナウイルスのパンデミックによって監視を重視する人が増え、プライバシーが軽視されるようになる可能性もあります」と述べ、監視社会のさらなる発展を危惧しました。

しかし、中国の一部の人々は監視社会に対して怒りをあらわにしており、若者運動の中には中国における民主主義に反発するものもいくつかあるとアンデルセン氏は指摘。香港の人々は間違いなく監視社会に危険を感じているものの、「香港国家安全維持法」によって支配されていることから、香港は数の上では不利な立場であるとアンデルセン氏は指摘しました。

研究者もまた監視システムの発展に賛同しているわけではなく、一部の研究者は難色を示しています。近年、コンピュータ科学者のイ・ゼン氏や哲学者のチョウ・ティンヤン氏などは中国におけるAIの悪用について警告を発しました。イ氏はAIが自律性、尊厳、プライバシー、その他多くの人間の価値観を阻害する可能性について記したマニフェスト「北京AI原則」を2019年に発表しています。

アンデルセン氏がイ氏に「北京AI原則は人々にどのように受け取られたか」を尋ねたところ、「『北京AI原則は政府の公式発表であるべきだ』と言われるほどでした。北京AI原則は私のライフワークです」と語りました。また、中国科学院の教授でもあるイ氏は「私は生徒にAIの哲学を教えています。私は生徒たちに『誰も殺人ロボットに関わらないことを願っている』とも伝えています。人生は短く、生徒の将来は殺人ロボットを作るより他にも多くのことができるはずです」とも語りました。