AI規制が逆に「新たな生体認証監視時代を到来させてしまう」という主張

新たなAI(人工知能)規制がEUで議論されていますが、現行の規制案に対し、新規制は安全なAI運用を可能にするどころか「新たな生体認証監視時代の到来を告げる可能性がある」と反対する声が上がっています。

Ban Biometric Surveillance - Access Now
https://www.accessnow.org/ban-biometric-surveillance/

Europe’s AI rules open door to mass use of facial recognition, critics warn – POLITICO
https://www.politico.eu/article/eu-ai-artificial-intelligence-rules-facial-recognition/

AIは急速に発達している一方で、科学的な証拠が不十分な感情認識AIが「差別を助長する」と指摘されたり、文章生成AIがニセ情報を生みだす危険性があると指摘されたりと、多くの問題も発生しています。このため、Googleのサンダー・ピチャイCEOを始めとして、「AIは規制されるべき」と主張する声も大きくなっています。

このような状況の中で、EUの政策執行機関である欧州委員会は2021年4月にAIの使用に制限を課す新法を議会に提出しました。

EUが人工知能を規制する新法を議会に提出 - GIGAZINE

この新法は、AIが用いられる各分野を「受け入れがたいリスク」「高リスク」「限定的リスク」「最小限のリスク」という4カテゴリに分類し、それぞれのカテゴリごとに異なる制限を適用するというもの。規制に従わない企業には、世界全体の年間収益の最大6％の罰金が科される予定です。

しかし、上記の法案はAIの運用の一部を制限するものであり、AIの使用を完全に禁止するものではありません。「市民のプライバシーを守ること」と「テロや犯罪と戦うための政府によるテクノロジーの需要」という2つの妥協案のような形になっており、「深刻な犯罪と戦う際には、例外としてAIの使用を認める」とする条項が含まれている点が問題視されています。

このため、アメリカのデジタル権利グループ「Access Now」は法案に反対する公開書簡を公開。公開書簡は「公共の場で顔認識などの技術を使用することは、人権と市民の自由に反する」と主張するもので、55カ国・170人の署名が入っています。

Access Nowのダニエル・ルーファー氏は「この書簡は、人権について懸念し声を上げることに同意した組織・市民・活動家・技術者たちが世界中に存在することを示しています」と述べました。

ルーファー氏は、EUのAI規制は「基本的人権を守るためにAIを適切に禁じるための先導的な措置」を講じるチャンスであることを認めつつ、現行の問題点を指摘しています。例えば、EUでAI規則が成立すれば、ブラジルを含む他国がその規則に続くことが考えられます。これは、EUのデータ保護規則であるGDPRが成立した後に、多くの国でGDPRと同様のデータ保護規則が採用されたことから予想されていること。このため、EUが抜け穴のあるAI規則を成立させると、他国にまでその抜け穴が受け継がれる可能性があります。特に、市民のデジタルプライバシーが守られていないといわれるブラジルやインドでは、AI規則に抜け穴があることで規則の乱用が懸念されています。

また、これまでの研究で顔認証技術は有色人種で精度が低くなることが指摘されており、不十分な規則では、これら技術を運用する中で人権が侵害されることも考えられます。

さらに書簡は国連人権高等弁務官事務所に対し、「顔認証技術を監視に使用することに対する非難」も求めました。国連が顔認証技術の問題点を議論することで、多くの人が問題を認識できるというのがその理由です。

これに加え、Access Nowは、投資家やテクノロジー企業に対し、監視のための顔認識技術を開発することや、資金提供をやめるよう呼びかけていきたいとも述べています。