Grokを悪用して児童性的虐待画像を作成した男性をSpaceXAIが提訴

イーロン・マスク氏が立ち上げたAIスタートアップのSpaceXAI(元xAI)が、AI・Grokを悪用して児童性的虐待画像(CSAM)のディープフェイクを作成したとして逮捕されたサウス・カロライナ州の男性を提訴しました。AIシステムを使ってわいせつなコンテンツを生成したユーザーをAI企業が提訴した初期事例として注目されています。

Musk's xAI sues Grok user over sexualized 'deepfakes' | Reuters
https://www.reuters.com/legal/litigation/musks-xai-sues-grok-user-over-sexualized-deepfakes-2026-07-15/

2026年2月にCSAMに関連する合計18件の容疑で、サウスカロライナ州在住の19歳から67歳の男性4人が逮捕されました。そのうち1人はCSAMの所持・配布、2人は所持、1人が配布した疑いがあり、それぞれ最高10年の懲役刑が科される複数の未成年者に対する性的搾取罪で起訴されています。

そのうちCSAMの所持・配布を行ったとされるテリー・ハーウッド被告に対し、被告の刑事告発に関連する画像の「​​少なくとも一部」がGrokで「生成または改変された」ものであり、Grokの利用規約に違反したとしてSpaceXAIが2026年7月14日に訴訟を提起しました。SpaceXAIは「被告がGrokの安全対策を回避し、被写体の同意なしに非性的写真を性的に露骨な画像に変換するためにツールを悪用した」と主張しています。

2025年12月にGrokで画像編集機能が利用できるようになってから、他人の画像を性的なものに改変する事例が相次ぎ、各国の当局が調査を開始する事態に発展しました。SpaceXAIが世界的に厳しい監視下に置かれている中で、ハーウッド被告が性的に露骨なディープフェイクを生成するためにシステムを悪用しようとしたとして、SpaceXAIは損害賠償金の支払いとGrokの永久禁止命令を求めています。

Grokが毎時約6700枚の性的画像を生成しているとの指摘、Grok生成画像の85％は性的 - GIGAZINE

SpaceXAIは訴状で「被告の行為は、原告のツールを犯罪目的で悪用し、実際の被害者を深刻かつ永続的な被害にさらすとともに、原告を重大な法的リスクと評判の損害にさらすための計画的な企てであった」と主張しています。

SpaceXAIの訴状によると、同社はアカウントの一時停止、アカウントの削除、児童性的虐待の疑いのある資料を全米行方不明・被虐待児童センター(NCMEC)に報告し、違反者に対して規則を執行しているとのこと。2026年に5万2222件のアカウントを停止し、NCMECに7万3604件の報告を行い、その結果少なくとも244人が逮捕されたそうです。

Grokで作成されたAIディープフェイクに関連して、ティーンエイジャーがSpaceXAIを提訴したケースはありましたが、SpaceXAIがユーザーを提訴したのは今回が初めてです。