2021年10月07日 13時00分ソフトウェア

「警察によるAI使用禁止」を欧州議会が決議、顔認証技術や行動監視が対象

欧州議会が2021年10月6日に、法執行機関が顔認証技術や犯罪を予見する技術を使用することを禁止するよう求める決議を採択したと発表しました。欧州議会が人工知能(AI)を用いた捜査の禁止に乗り出した背景には、アルゴリズムの偏りにより差別が助長されることへの懸念があります。

Use of artificial intelligence by the police: MEPs oppose mass surveillance | News | European Parliament
https://www.europarl.europa.eu/news/en/press-room/20210930IPR13925/use-of-artificial-intelligence-by-the-police-meps-oppose-mass-surveillance

European Parliament calls for a ban on facial recognition – POLITICO
https://www.politico.eu/article/european-parliament-ban-facial-recognition-brussels/

賛成377、反対248、棄権62で採択された決議の中で、欧州議会は「AIのアルゴリズムにはバイアスが存在しており、特に法執行機関による捜査や国境検問所などの場面でAIが差別に利用されることを防ぐには、人間による監督と強力な法的権限による制限が必要」と主張しました。具体的には、顔認証などの生体認証技術や、犯罪の発生を事前に予測する「予測的ポリシング」、市民を監視して格付けを行う中国の社会信用システムのような技術が禁止の対象になるとのこと。

欧州議会は発表声明の中で、AIを使った識別システムは少数民族、LGBTIの人々、高齢者、女性での誤認率が高いことを指摘し、このことは法執行や司法の場面で特に懸念されていると指摘しました。その上で欧州議会は、もし公的機関がAIを使用するのであれば、オープンソースソフトウェアを使うなどして透明性や追跡可能性を十分に確保すべきだとしています。

EUの政治や時事問題を扱うニュースサイト・POLITICO Europeによると、今回の決議は法的拘束力を持たないものの、ヨーロッパの議会が今後AI関連法案などを扱う際の決定に影響を与える強いシグナルになるとのこと。これにより、EUではテロなどの重大犯罪に対抗する措置でもない限り、顔認証技術を含む生体認証技術が公共の場で使用されることが大きく制限されるようになるとみられています。

ブルガリアの欧州議会議員であるPetar Vitanov氏は決議の採択について、「生体認証技術は効果が低く、しばしば差別的な結果をもたらすことが証明されているため、今回初めてとなるこの決議により、法の執行を目的とする顔認証システムの導入を一時的に停止することを求める所存です。私たちは、AIを利用した予測的ポリシングや市民の監視につながる生体認証には明確に反対します。また、今回の決定はすべての欧州市民にとって大きな勝利となるものです」とコメントしました。

欧米では、犯罪の取り締まりや予防を目的としたAI関連技術の導入が進んでいる地域がある一方で、差別や誤認識への懸念から使用を禁止する動きも加速しています。2020年には、テロや凶悪犯罪の増加を背景に、イギリスのロンドンで市民の顔をリアルタイムで監視するライブ顔認証システムの使用が開始されましたが、EUは2020年から公共の場での顔認識技術の使用禁止を検討してきました。またアメリカでも、初の顔認証システムによる誤認逮捕事件の発生などを背景に、複数の地方自治体が相次いで顔認証技術の使用を禁止する法律を制定しています。

アメリカの大都市が相次いで顔認証システムを禁止に - GIGAZINE