EUが人工知能を規制する新法を議会に提出

EUの政策執行機関である欧州委員会が、自動運転車や企業などによる採用試験、入学試験、試験の採点、銀行貸付などの領域において、「人間の安全や基本的権利を脅かす可能性がある」として、人工知能(AI)の使用に制限を課す新法を議会に提出しました。

Excellence and trust in artificial intelligence | European Commission
https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence

Artificial Intelligence, Facial Recognition Face Curbs in New EU Proposal - WSJ
https://www.wsj.com/articles/artificial-intelligence-facial-recognition-face-curbs-in-new-eu-proposal-11619000520

Europe Proposes Strict Rules for Artificial Intelligence - The New York Times
https://www.nytimes.com/2021/04/16/business/artificial-intelligence-regulation.html

Google、Amazon、Facebook、Microsoftなど、情報技術産業における巨大企業がAIの開発に多大なリソースを注ぐ中、Googleのサンダー・ピチャイCEOが「AIは規制されるべき」と主張したり、「倫理に反するAIの開発は差し止められるべき」という見解が報じられたりと、近年はAIの規制に関する議論が活発化しています。こうした流れの中、欧州委員会が「AIは多岐にわたる社会問題を解決してくれますが、これはAIが高品質かつ人々の信頼を得られる方法で開発・使用された場合に限ります」と述べ、EUで用いられるAIシステムが「安全かつ倫理的で、バイアスがなく、人間の管理下にある」と確認するための新法を議会に提出しました。

この新法は、AIが用いられる各分野を「受け入れがたいリスク」「高リスク」「限定的リスク」「最小限のリスク」という4カテゴリに分類し、それぞれのカテゴリごとに異なる制限を適用します。

「受け入れがたいリスク」と規定された分野は、全国民をランキング化して管理する中国の社会信用システムに類似する制度や、子どもの危険行為を助長するようなAIアシスタントなどの「EU市民に対する明らかな脅威とみなせるもの」で、全面禁止の対象。「高リスク」は、市民の生命と健康を危険にさらす可能性のある輸送などのインフラストラクチャや、教育や職業訓練、試験の採点などの進路を左右する可能性のある進学関係、雇用・労働者管理などの労働関係や、移民・国境管理などの広範にわたっており、運用開始前だけでなく運用開始後も注意深く評価が続けられるとのこと。

「限定的リスク」とされた分野は、チャットボットなどの情報に基づく意思決定を支援するシステムで、最小限の透明性に関する義務が課されます。「最小限のリスク」はビデオゲームやスパムフィルターなどのアプリケーションに用いられるAIで、このカテゴリは制限の対象とならないそうです。

この新法「European approach for Artificial Intelligence」は、以下からダウンロードして閲覧可能です。

Proposal for a Regulation on a European approach for Artificial Intelligence | Shaping Europe’s digital future
https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-european-approach-artificial-intelligence

事前のリーク情報に基づいた報道では、この法律に違反した企業には「最大2000万ユーロ(約26億円)か売上の最大4％の罰金」が科されるとされていましたが、実際に議会に提出された法案では「最も重大な違反に対して、世界全体の年間収益の最大6％の罰金を科す」となっています。ただし、アメリカ大手紙のThe Wall street journalは「実際に最高額の罰金が科せられることはほとんどないだろう」と述べています。

議会に提出された法案は、「曖昧で抜け穴が多すぎる」という非難もある一方、「EUでAIを開発するコストが法外になるか、技術的に不可能となり、中国に追い抜かされる」という声が上がっています。この法案は、欧州理事会と欧州議会の両方の承認を得る必要があるため、実際の施行には数年はかかるという見通しです。