ホワイトハウスがAIによる害や差別から市民を守り必要に応じたオプトアウトも認める「AI権利章典」を発表

近年はAI技術の進歩によりさまざまな変革が起きていますが、政府機関に使用される顔認識技術の精度が低いことが指摘されたり、イラスト生成AIがアーティストの権利を侵害しているとして批判されたりと、人間とAIの間における摩擦も生じています。そんな中でホワイトハウス科学技術政策局(OSTP)が現地時間の2022年10月4日、AIがもたらす害や差別からアメリカ国民を守るための「AI権利章典」の草案を発表しました。

Blueprint for an AI Bill of Rights - The White House
https://www.whitehouse.gov/ostp/ai-bill-of-rights/

Blueprint for an AI Bill of Rights: A Vision for Protecting Our Civil Rights in the Algorithmic Age - The White House
https://www.whitehouse.gov/ostp/news-updates/2022/10/04/blueprint-for-an-ai-bill-of-rightsa-vision-for-protecting-our-civil-rights-in-the-algorithmic-age/

The White House moves to hold artificial intelligence accountable with AI Bill of Rights | VentureBeat
https://venturebeat.com/ai/the-white-house-moves-to-hold-artificial-intelligence-accountable-with-ai-bill-of-rights/

White House guidelines for AI aim to mitigate harm | Reuters
https://www.reuters.com/article/tech-ai-biden/white-house-guidelines-for-ai-aim-to-mitigate-harm-idUSL1N31426R

White House unveils artificial intelligence 'Bill of Rights' | AP News
https://apnews.com/article/technology-business-artificial-intelligence-7a39848340d210592aeea2478225f489

OSTPはAI権利章典の草案で、AIによって自動化されたシステムは農業や気象予測、医療診断などに多大な利益をもたらしており、すべての人々の生活をよりよくする可能性を秘めていると認めています。

その一方、従業員採用や人事評価に用いられるAIに望ましくない既存の差別が根付いていたり、医療診断に用いられるシステムに人種差別的な偏見が残っていたりと、AIが市民に害をもたらすこともあるとOSTPは指摘。「これらのツールはあまりにも頻繁に人々の機会を制限し、重要なリソースやアクセスを妨げます。これらの問題は十分に文書化されています」「過去10年間で拡大したこれらの問題は、数百万人もの人々の権利を脅かし、歴史的に疎外されてきたコミュニティの人々を傷つけています」と記しています。

医療システムに組み込まれたアルゴリズムの人種バイアスを取り除くことは困難 - GIGAZINE

そこでOSTPは、「AIによる重要な進歩は、公民権や民主的価値、ジョー・バイデン大統領が政権の基礎として確認したアメリカの基本的原則を犠牲にしてはなりません」として、AI時代にアメリカ国民を保護するための自動化システムの設計・使用・展開の指針となる「5つの原則」を設定しています。OSTPが10以上の部門と1年間にわたる協議を重ね、市民社会団体や技術者、業界研究者、PalantirやMicrosoftなどのハイテク企業のフィードバックも合わせて定めた5つの原則は以下の通り。

・安全で効果的なシステム
人々は安全でないか、または効果のないシステムから保護される必要があり、自動化システムはさまざまな利害関係者や専門家と協力し、リスクや潜在的な影響を特定した上で開発されなくてはなりません。企業や組織によって使われる自動化システムは、独立機関による評価と報告を経て、可能な限り結果を公開することが求められます。

・アルゴリズム差別からの保護
国民はアルゴリズムによる人種・肌の色・民族・性別・宗教・年齢・出身国・経歴・遺伝情報に基づく差別や不当な扱いから保護されるべきであり、自動化システムは公平な方法で設計および使用されなくてはなりません。自動化システムの設計者や開発者、そしてユーザーはアルゴリズムによる差別から人々を保護するため、積極的かつ継続的な対策を講じる必要があります。

・データプライバシー
ユーザーは自動化システムに組み込まれた保護措置によってデータ侵害から守られるべきであり、データは本当に必要な場合のみ収集されるべきです。また、自動化システムの使用者はユーザーに対し、データ収集に関する情報をわかりやすく通知しなくてはなりません。

・通知と説明
ユーザーは自動化システムが使われていることを知り、自分に及ぼす影響について理解する権利があります。自動化システムの使用者は、ユーザーに対してAIを用いていることやその影響を通知し、なぜAIを使うのかについても説明することが求められます。

・人間による代替手段、検討、離脱
ユーザーは必要に応じて自動化システムからオプトアウトし、人間による代替手段を選択する権利があります。自動化システムに障害が発生した場合や、ユーザーがその影響について異議を申し立てる場合は、その問題を検討・解決できる人間に速やかにアクセス可能であるべきだとされています。

大統領補佐官兼OSTP科学社会担当副局長を務めるアロンドラ・ネルソン博士は、AP通信に対して「バイデン-ハリス(カマラ・ハリス副大統領)政権は政府間だけでなくあらゆる部門にわたって協力し、公平性を中心に置き、テクノロジーを作り、使い、統制する必要があると明言しました」「私たちは技術により良いものを期待し、要求するべきなのです」と述べました。

今回発表されたAI権利章典の草案については、生体認証データや顔認証を利用するAIなど実際に物議を醸している特定のAIについて言及していないほか、AIを用いた自律式兵器やスマートシティの問題に対処していないとの指摘もあります。また、AI権利章典は自動化システムを開発するハイテク企業に対する拘束力を持たず、新たな立法提案も含まれていないため、法執行機関は既存のルールに従って自動化システムに対処し続けるとのこと。

OSTPはAI権利章典の草案について、自動化システムを社会において効果的に機能させるためのガイドラインであると主張。「私たちはアメリカ国民と共にこの道を切り開くことを楽しみにしています」と述べました。