EUが「AIの使用を規制する法案」を2023年内に承認へ、いったいどんな法律なのか？

2023年6月14日、欧州議会が「AIを管理するための画期的な法案」の承認投票を行うことを決定しました。もし投票の結果によって承認されれば、この法律は世界で初めての「社会のさまざまな分野におけるAIの使用を規制するための法律」となります。

Debate and vote on landmark rules to manage Artificial Intelligence | 12-06-2023 | News | European Parliament
https://www.europarl.europa.eu/news/en/agenda/briefing/2023-06-12/1/debate-and-vote-on-landmark-rules-to-manage-artificial-intelligence

EU approves draft law to regulate AI – here's how it will work
https://theconversation.com/eu-approves-draft-law-to-regulate-ai-heres-how-it-will-work-205672

この法案は2021年に欧州委員会が提出した法案を基に、欧州議会と欧州評議会が議論と検討を重ねてきたものです。欧州議会は「この法案はリスクベースのアプローチに従っており、AIが生み出す可能性のあるリスクのレベルに応じて、プロバイダーとユーザーの義務を定めています。また、許容できないレベルのリスクを伴うAIシステムを禁止します」と述べています。

法案では、あくまでも規制の対象となっているのはAIそのものではなく、「社会におけるAIの使用」となっており、AIの使用によってもたらされるリスクは「許容できないリスク」「高いリスク」「限定的」「最小限」という4段階に分類されます。

「許容できないリスク」として分類されるのは基本的権利やEUの規則や価値観に脅威をもたらすとみなされるケースで、そのAIの使用が禁止されるとのこと。たとえば、個人情報に基づいてAIが個人のリスク評価を行って将来的に犯罪に手を染める可能性があるかを予測するようなシステムの使用は、「許容できないリスク」をもたらすと判断されます。また、街中の監視カメラで撮影した映像における顔認識技術の使用についても、司法の許可を得た場合を除き、「許容できないリスク」をもたらすとされています。

「高いリスク」をもたらすと分類されたシステムは開示義務の対象となるとのこと。たとえば、教育や雇用、金融、医療、その他の重要な分野のサービスへのアクセスを制御するAIがこれに当たります。インフラや社会的基盤に関わるAIの使用は、安全性や基本的権利に悪影響を与える可能性があるため、一定の監査要件の下で監視が行われます。

そして、「限定的なリスク」をもたらすと部類された場合は、最小限の透明性の確保が義務付けられます。たとえば、文章を生成するチャットボットAIの場合、運営側は「これはAIとの会話です」とユーザーに提示する必要があります。

記事作成時点では承認のための投票を行うことが決まった状態ですが、法案は成立に向けてブラッシュアップが行われます。一部の欧州議会議員は、研究活動やオープンソースのAI開発に対する規制の免除や、管理された環境での利用を想定するなど、AIのイノベーションを促進する目的で一部の規制緩和の追加を提案しているとのこと。承認投票は2023年末に行われ、この投票で認められれば発効することになります。

なお、IT系ニュースサイトのTechcrunchによれば、チャットボットAIの「Bard」を開発するGoogleが、EUが定めた透明性要件を順守するため、ヨーロッパでのBardのリリースを延期したとのこと。Techcrunchの取材に対して、Googleは「私たちは5月に、欧州連合を含め、Bardをより広く利用できるようにしたいと考え、専門家、規制当局、政策立案者との関わりを経て、責任を持ってそれを実行すると述べました。そのプロセスの一環として、私たちはプライバシー規制当局と話し合い、彼らの疑問を解決し、意見を聞いてきました」と述べています。

Google delays EU launch of its AI chatbot after privacy regulator raises concerns | TechCrunch
https://techcrunch.com/2023/06/13/google-delays-eu-launch-of-its-ai-chatbot-after-privacy-regulator-raises-concerns/