娘のライバルを蹴落とすために「ディープフェイク」で全裸の映像を作成した母親が逮捕

チアリーダーとして活動する娘のライバルを蹴落とすため、人工知能(AI)などで本物と見分けが付かない映像を生成する「ディープフェイク」を使用し、娘のライバルが裸で飲酒・喫煙する映像をねつ造した母親が逮捕されました。

Bucks County woman created ‘deepfake’ videos to harass rivals on her daughter’s cheerleading squad, DA says
https://www.inquirer.com/news/bucks-county-raffaela-spone-cyberbullying-deepfake-20210312.html

Cheerleader's mom created deepfake videos to allegedly harass her daughter's rivals - ABC News
https://abcnews.go.com/US/cheerleaders-mom-created-deepfake-videos-allegedly-harass-daughters/story?id=76437596

3件のサイバー嫌がらせ並びに3件の嫌がらせで逮捕されたのは、ペンシルベニア州に住むラファエラ・スポーン容疑者(50)。スポーン容疑者はAIで違和感のない映像を生成する「ディープフェイク」を用いて、地元のチアリーディングチーム「Victory Vipers」に所属する娘のライバルたちが飲酒・喫煙などを行うムービーをねつ造し、本人やチームのコーチなどに送付。さらに自殺を促すメッセージを匿名で送信したとみられています。

地元紙のPhiladelphia inquirerによると、スポーン容疑者はソーシャルメディアに投稿された画像と既存の映像をディープフェイクで合成することで、こうした映像を作り出していたとのこと。被害者はスポーン容疑者の娘の友人3人で、うち1人の両親が警察に被害届を出したことから事件の全容が明らかになりました。

地元の捜査機関であるヒルタウンタウンシップ警察は問題の映像を分析し、AIによってねつ造されたディープフェイク映像であると判断。被害者に嫌がらせのメッセージを送付した電話番号を追跡し、テレマーケティング向けに電話番号を販売する専門業者を特定し、犯人のIPアドレスを入手し、スポーン容疑者を突き止めました。

押収されたスポーン容疑者のスマートフォンからは、問題の電話番号に関連した証拠が見つかっているとのこと。なお、捜査によると、スポーン容疑者の娘は母親の犯行について何も知らなかったとみられています。

チアリーディングチームVictory Vipersは「私たちは非常に厳格ないじめ対策方針ポリシーを定めており、事件に関係する全ての個人はもはやチームに所属していません」とコメントしています。