「AI検察官」は口頭説明を受けるだけで97％の精度で犯罪を特定可能

中国の研究者が、97％以上の精度で犯罪を起訴できるAIを開発したと発表しました。この「AI検察官」は、人の自然な言葉を理解することが可能なので、口頭による事件の説明だけで犯罪を特定できるとされていますが、政府による反対意見の封殺に利用される可能性や誤検知の問題が懸念されています。

Chinese scientists develop AI ‘prosecutor’ that can press its own charges | South China Morning Post
https://www.scmp.com/news/china/science/article/3160997/chinese-scientists-develop-ai-prosecutor-can-press-its-own

China develops AI 'prosecutor' that can press charges 'with 97% accuracy' | Daily Mail Online
https://www.dailymail.co.uk/news/article-10346933/China-develops-AI-prosecutor-press-charges-97-accuracy.html

香港で発行されている日刊紙・South China Morning Postが2021年12月26日に、「人工知能を使って人を起訴できる世界初のシステムが、中国最大の地方検察庁である上海浦東人民検察院によって開発された」と報じました。

中国の検察庁は、2016年ごろから「System 206」と呼ばれるAIツールを利用し、証拠の吟味や逮捕要件の確認、容疑者の危険度の評価などを行っています。しかし、これらのツールは犯罪の判定や量刑の提案といった意思決定プロセスには関与しないため、検察官の仕事に与える影響は限定的だったとのこと。人間が作成した文書を元に犯罪を分析できるAIも開発されていますが、これまでは検察官がアクセスできないような大規模なシステムで運用する必要がありました。

そこでShi教授らの研究チームは、2015年から2020年までに収集された1万7000件以上の事例を用いてAIをトレーニングすることで、口頭での説明から1000個以上の特徴的な要素を抜き出し、これを元に犯罪を特定できるAI検察官を開発しました。このAI検察官は、一般的なデスクトップPCで稼働するので、検察官が簡単に使用できるとのことです。

AI検察官の開発プロジェクトの主任研究者で、中国科学院のビッグデータ・知識管理研究所の所長であるShi Yong教授は、「この技術は検察官の仕事量を減らして、より困難な仕事に集中できるようにするために開発されたもの」と説明しています。また、Shi教授らの研究チームは、中国の専門誌・Management Reviewに掲載された論文の中で、「このシステムはある程度人間の検察官に取って代わることができる」と述べました。

今回Shi教授らの研究チームが開発したAI検察官は詐欺、クレジットカード詐欺、賭博場の運営、危険運転、故意の傷害、公務執行妨害、窃盗、そして「もめ事を起こして問題を発生させる罪」という意味の「寻衅滋事罪」の8つの犯罪を97％以上の精度で起訴することができるとのこと。「騒乱挑発罪」と訳されることもある「寻衅滋事罪」は、定義が曖昧なため政府による反体制派の鎮圧など反対意見を封じ込めるために用いられることもある罪状とされています。

匿名を条件にSouth China Morning Postの取材に応じた広州の検察官は、「97％というのは技術者から見れば高精度だと言えるかもしれませんが、必ず間違いが起きるということでもあります。その時、一体誰が責任をとるのでしょうか。検察官か、AIか、それともアルゴリズムの設計者でしょうか」と述べて、AI検察官に対する懸念を示しました。