性的虐待につながるAI画像の生成・拡散・収益化を抑制するための自主的な取り組みをホワイトハウスが企業や連邦議会に呼びかけ

AIなどの技術を悪用した画像ベースの性的虐待が近年急増しており、特に女性や少女、LGBTQI+のコミュニティが標的となることが多く深刻な問題となっています。この問題に取り組むために、政府はテクノロジー企業や市民社会に協力を呼びかけ、画像ベースの性的虐待を防止・軽減するための自主的な取り組みを促しています。

A Call to Action to Combat Image-Based Sexual Abuse | GPC | The White House
https://www.whitehouse.gov/gpc/briefing-room/2024/05/23/a-call-to-action-to-combat-image-based-sexual-abuse/

AIの登場によって、誰でも自分の望んだ画像を生成できるようになりました。しかし、画像生成AIの技術が進歩する一方で、フェイクポルノや児童ポルノなど、問題のある性的コンテンツがAIによって簡単に作成されてしまう事態が問題視されています。

バイデン政権は、画像ベースの性的虐待を主たる事業とするサイトやモバイルアプリ、特に未成年者の露骨な画像を拡散するようなサイトへの決済サービスを制限するように、決済プラットフォームや金融機関に求めています。また、クラウドサービスプロバイダーやモバイルアプリストアに対しては、個人の同意なく性的画像を作成・改変することを目的としたウェブサービスやモバイルアプリの利用を制限するように呼びかけました。同時にアプリ開発者には、個人の同意なく画像を生成することを防止するための要件を設けることを提案しています。

さらに、モバイルアプリやモバイル向けOSの開発者には、デジタルデバイスに保存されたコンテンツの保護を強化し、同意なく画像が共有されることを防止するための技術的プロテクトを導入するように要請しました。

加えて、プラットフォームの運営者には、画像ベースの性的虐待の被害者が、参加するオンラインプラットフォームから該当コンテンツを簡単かつ安全に削除できるようにする仕組みを求め、被害者に救済策を提供するサービスへの支援と参加を促しました。

また、バイデン政権は連邦議会に対し、「画像ベースの性的虐待の被害者や生存者のための法的保護を強化すること」「画像ベースの性的虐待の被害者や生存者のために、重要なリソースを提供すること」を求めています。

ホワイトハウスの科学技術政策局長で、バイデン政権の主席科学顧問であるアラティ・プラバカール氏はAP通信の取材に対して「生成AIが登場したとき、誰もが最初の実害がどこで発生するかについて推測していました。そして私たちはその答えを得たと思います」とコメントしています。