AIが生成した「クラスメイトの女子高生の偽ヌード写真」を男子高生がグループチャットで共有したとして警察が捜査を開始

高校の広報担当者は、守秘義務を理由に、事件に関与した生徒の総数や懲戒処分を受けた生徒がいるかどうかなどについてのメディアの取材を拒否しました。

しかし、ニューヨークのテレビ局であるFOX 5 New Yorkは、1人の生徒が数日間の一時停学処分を受けたと報じています。その生徒は記事作成時点ではすでに学校に戻っているとのこと。また、女子生徒の中には学校の職員から自分がヌード写真に写っていることを告げられた人もいると伝えられています。

被害を受けた女子生徒であるというフランチェスカ・マニさんは、「私たちはとても怒っていたし、多くの女の子が泣いていました」「廊下で彼を見るだけで怖くなります」と話しました。

また、14歳のフランチェスカさんの母親であるドロタ・マニ氏は「これがいつ、どのように問題として表面化するのか、恐怖を感じています。娘には輝かしい未来があるのに、このことが仕事や学業、人間関係に影響を与えないとは誰も保証できません」とコメントしました。

マニ氏は、ヌード写真を作成した人と娘を同じ学校に通わせたくないとして、問題の生徒を退学処分とするよう学校に訴えるとともに、この件でウェストフィールド警察に被害届を出したとのことです。

メアリー・アスフェンディス校長は10月20日に生徒と保護者にメールを送り、事件の内容と経緯を説明しました。その中でアスフェンディス校長は「本日未明、生徒の一部が人工知能を使い、オリジナルの写真からポルノ画像を作成したとの情報が寄せられました。その画像を誰が作成したのか、またそれが共有されたのかについて、大きな懸念が寄せられました。現時点では、作成された画像はすべて削除され、流通していないと考えています」と述べました。

学校は被害を受けた生徒やその保護者に対し、警察に通報するよう呼びかけています。しかし、捜査関係者はNew York Postに対し、警察は誰も問題の写真を見ていないと述べて、今回の事件で作成されたヌード写真を警察が入手できていないことを明かしました。

伝えられるところによると、実在の人物を撮影した偽の性的画像作成を制限する連邦法は目下のところ存在していないとのこと。2023年6月には、子供の安全の専門家が「AIが作った、リアルだが偽の児童ポルノ画像数千枚がオンラインで共有されており、それを止める方法はありません」との懸念を表明していました。

OpenAIのDALL-Eなどの洗練された画像生成AIの登場により、実在の人物をAIで加工した「ディープフェイク」の作成は非常に容易になっており、2023年3月にはMidjourneyで逮捕に抵抗するドナルド・トランプ元大統領の偽写真を作ったユーザーが利用禁止処分を受けています。

画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける - GIGAZINE

また、日本では岸田文雄総理大臣が卑わいな発言しているかのようにみせかける動画がSNSで拡散され問題となりました。