「官僚の腐敗を検出するAIシステム」を中国で導入した結果とは？

by Kevin Ku

巨大な人口と広大な国土を抱える中国には大量の政府職員がおり、アナリストによればその数は6400万人を超えるとのこと。そんな中国では官僚の腐敗を防止するため、「Zero Trust」という腐敗防止AIシステムが導入され始めていますが、Zero Trustが導入された地域の中には官僚たちによってシステムが廃止に追い込まれたところもあると報じられています。

Is China’s corruption-busting AI system ‘Zero Trust’ being turned off for being too efficient? | South China Morning Post
https://www.scmp.com/news/china/science/article/2184857/chinas-corruption-busting-ai-system-zero-trust-being-turned-being

高度に発達した情報化社会において、中国では政府機関が積極的に最新技術を採用しています。たとえば外務省では、中国政府による海外投資プロジェクトのリスク評価と意志決定を支援するため、機械学習を用いたシステムを導入しているとのこと。また、国内各地に顔認識機能を搭載した監視カメラが設置されているほか、貴州省ではクラウドシステムが警官の動きを生体情報と共にリアルタイムで記録しているとされています。

さらにZTEのような通信大手は、許可されていない人物による政府データの改ざんを防ぐために、新たなブロックチェーンを用いたテクノロジーの開発を進めています。習近平国家主席は中国の政府改革において、ビッグデータやAIといった最新技術を用いる必要性を繰り返し説いてきました。

そこで中国政府は官僚の腐敗を防止するため、中国科学院と中国共産党の内部統制機関が協力して、「Zero Trust」というAIを用いた腐敗防止システムを開発したとのこと。Zero Trustは公務員の仕事や個人的な生活を監視、評価し、中国政府および地方自治体の機密データベースにもアクセスできるそうです。

by Dickson Phua

Zero Trustに携わった研究者によると、政府職員の行動を分析して洗い出すことで、さまざまな階層における官僚の社会的関係が浮かび上がるとのこと。財産の不審な移転やインフラ建設における怪しい動き、用地の取得、住宅の解体といった腐敗を発見する上で、Zero Trustは非常に有用であると研究者は述べています。

Zero Trustが官僚の口座残高に異常な増加を発見したり、唐突に新車を購入したり、官僚本人やその親戚による政府プロジェクトへの入札があったりした場合、その不審度を計算して腐敗があるかどうかを判定します。Zero Trustはさまざまなデータの食い違いを見つけて、官僚が資金を着服したりデータを改ざんしたりした証拠を見つけ出すだけでなく、地方の道路工事が正常に行われたのかどうかを調べるため、衛星画像を呼び出すことも可能だと研究者は主張しています。

官僚の腐敗がZero Trustによって検出されると当局に警告が送られ、担当の職員が警告内容を精査した後で「後戻りができないレベルの腐敗」が行われる前に官僚本人に連絡を取り、さらなる腐敗を防ぐのだとZero Trust開発に関わった科学者は話しました。

その一方でZero Trustに限らないAIシステムにおける弱点として、「結論に至るまでの筋道を論理的に説明することが難しい」という点が挙げられます。Zero Trustが「この職員には腐敗のおそれがある」と指摘したところで、最終的なチェックは人間の職員によって行われる必要があるとのこと。

by Japanexperterna.se

今のところZero Trustが投入されたのは30の県と市に限定されており、中国全体の行政区域からすれば1％に過ぎません。関係する自治体は湖南省の麻陽ミャオ族自治県など、中国の政治的権力から離れた貧しい地域が多いとのこと。

中国全体の1％程度の地域でのみ導入されたZero Trustですが、2012年の導入から実に8721人もの政府職員が、横領や権力の乱用、政府資金の乱用、親族に便宜を図ったといった腐敗に関わったと指摘されています。一部の人々は懲役刑を受けたものの、多くの官僚は警告や軽微な罰で済まされ、引き続き仕事を続けているそうです。

しかし、一部の地方自治体ではZero Trustの運用を停止したと報じられています。ある研究者はZero Trustの運用が官僚自身の手で停止されてしまった理由について、「官僚たちが、最新テクノロジーによって監視されていることを快く思っていないようです」と述べているとのこと。

by James Wheeler

湖南省寧郷市にある中国共産党の規律検査委員会は、いまだにZero Trustを運用し続けている数少ない機関の一つだとのこと。委員会のZhang Yi氏は、「Zero Trustを運用している我々は大きなプレッシャーにさらされています」と述べ、Zero Trustの主目的は官僚の懲罰にあるのではなく、腐敗の初期段階で官僚を救い出すことだとしています。

Zhang氏によれば、あくまでもZero Trustの結果は参考に過ぎず、その妥当性を確認して検証するのは人間の役目だそうです。「Zero Trustは問題が起きた時に電話をとることもかけるできません。最終的な判断は人間によって行われます」とZhang氏は話しました。

今のところ一部の自治体では運用が続けられているZero Trustですが、その先行きは怪しいとのこと。すでにいくつかの自治体では廃止されているだけでなく、運用している自治体も大きなプレッシャーを感じている現状では、Zero Trustが全国規模に広がる見込みは薄いだろうと研究者は見ています。

by succo