13歳と14歳の中学生が「同級生のディープフェイクヌード画像を生成・共有した」として起訴される

近年は生成AIを用いて作られた「実在する人物のディープフェイクヌード画像」が問題となっており、有名人だけでなく一般の女性や未成年の少女も被害に遭っています。そんな中、アメリカのフロリダ州に住む13歳と14歳の中学生が、「同級生のディープフェイクヌード画像を生成・共有した」として第3級重罪で起訴されたことが判明しました。

Florida teens arrested for creating ‘deepfake’ AI nude images of classmates - The Verge
https://www.theverge.com/2024/3/8/24094633/deepfake-ai-explicit-images-florida-teenagers-arrested

Beverly Hills school district expels 8th graders involved in fake nude scandal - Los Angeles Times
https://www.latimes.com/california/story/2024-03-07/beverly-hills-school-district-expels-8th-graders-involved-in-fake-nude-scandal

Beverly Hills school expels students over deepfake nude photos
https://www.nbcnews.com/tech/tech-news/beverly-hills-school-expels-students-deepfake-nude-photos-rcna142480

2023年12月、フロリダ州のウェストチェスターにある中学校に通う2人の男子生徒が、AIソフトウェアを悪用して同級生のヌード画像を生成したとして警察の捜査を受けていることが報じられました。匿名を条件に証言した被害者のひとりは、「私の顔が同意なしに使われました。暴力的で、利用されていると感じます」とコメントしています。

中学生らが通う学校は2人を10日間の停学処分にしましたが、被害者のひとりの母親であるナディア・カーン・ロバーツさんは停学処分だけでは不十分だと主張。「私たちは、この少年たちを退学させたいのです。娘たちは、AIヌード生成アプリで自分の画像を非常に不適切な方法で使用した少年たちと、同じ廊下を歩くことを快く思っていません」と述べていました。

そして2024年3月、13歳と14歳の少年2人が「12歳から13歳の同級生のディープフェイクヌード画像をAIで生成・共有した」として第3級重罪で起訴されたことを海外メディアのWIREDが報じました。WIREDは公開記録請求手続きを通じて、警察の報告書を入手したとのことです。

フロリダ州では2022年に、被害者の同意なしで性的に露骨なディープフェイク画像を拡散することを禁止する州法が可決されており、中学生らはこの州法に基づいて起訴されています。今回の逮捕および起訴は、AIが生成したヌードの共有に関するアメリカ初の事例であるとみられています。

未成年者が同級生やその他の少年少女のディープフェイクヌード画像を生成することは、アメリカ国内だけでなく世界各国で問題となっています。しかし、記事作成時点では合意のないディープフェイクヌード画像に関するアメリカ連邦法が存在しないため、各州ごとに独自で法律の制定に取り組んでいる状態です。

アメリカ政府は着々とAIによる同意のない性的コンテンツの生成を規制する動きを進めています。ジョー・バイデン大統領は2023年秋に生成AIの規制に関する大統領令を発し、児童の性的コンテンツを生成するためのAI利用を禁止するよう各機関に求めました。2024年1月末には、自身のフェイクポルノを作成された人が訴訟を起こせるようにする法律「明示的な偽造画像および同意のない編集の妨害(DEFIANCE)法」が連邦議会に提出され、超党派の支持を得ています。

AIによるディープフェイクポルノ作成に対して訴訟を提起できるようになる法案が提出される - GIGAZINE

また、カリフォルニア州ロサンゼルス郡ビバリーヒルズのビバリービスタ中学校では、生成AIを使って同級生のフェイクヌード画像を生成した中学生5人の退学処分が2024年3月に承認されたと報じられています。

ビバリーヒルズ統一学区のマイケル・ブレギー教育長は、「この事件は、AIを含むテクノロジーの倫理的使用に関する重要な議論に拍車をかけ、デジタル環境における用心深く十分な情報に基づいた関与の重要性を強調しています。その上で、子どもたちはまだ学びと成長の途中であり、過ちはこのプロセスの一部であることも認識しています。しかし、説明責任から逃れることはできず、適切な措置がとられました」とコメントしました。