2024年03月01日 19時30分ネットサービス

少女の性的被害が相次ぐ写真から衣服を剥ぎ取るAIポルノアプリ「ClothOff」の背後にいる人物とは？

AIの発達に伴って「実在する女性の写真から衣服を剥ぎ取って裸にするAIポルノアプリ」が登場しており、すでにアメリカやスペインでは子どもたちが同級生の少女のヌード写真をAIポルノアプリで作成し、それを使っていじめや脅迫を行うという事件が発生しています。これらの事件で利用されたAIポルノアプリ「ClothOff」の背後にいる人物について、イギリスの大手日刊紙・The Guardianが調査結果を報告しました。

Revealed: the names linked to ClothOff, the deepfake pornography app | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/technology/2024/feb/29/clothoff-deepfake-ai-pornography-app-names-linked-revealed

スペイン南部のアルメンドラレホという町に住むミリアム・アルアディブさんはある日、14歳の娘から「ディープフェイクで作られた自分のヌード画像」を見せられました。アルアディブさんは、「あれを見た時はショックでした。画像は本当にリアルでした……娘の体を知らなかったら、あの画像は本物だと思ったでしょう」と述べ、ポルノサイトに画像が転載されることを懸念しています。

この画像は、何者かがアルメンドラレホの女子学生を標的にAIポルノアプリで生成した数十枚のヌード画像のひとつであり、他の生徒が作ったWhatsAppグループで数週間にわたり拡散されていたとのこと。ディープフェイクのヌード画像が拡散された少女の一部は学校に行くことを拒否したり、パニック発作に苦しんだり、恐喝されたり、いじめに遭ったりするなどの被害を受けており、検察はディープフェイクポルノを生成し、ダウンロードした子どもたちの起訴も検討しているそうです。

また、スペインから遠く離れたアメリカのニュージャージー州でも、男子生徒らがAIポルノアプリを使って女子生徒のヌード画像を生成し、共有するという事件が発生しました。スペインとアメリカの事件では、いずれも「ClothOff」という同じAIポルノアプリが使用されたことがわかっています。

AIが生成した「クラスメイトの女子高生の偽ヌード写真」を男子高生がグループチャットで共有したとして警察が捜査を開始 - GIGAZINE

ClothOffは「AIを使って誰でも写真の人物の衣服を脱がせることができる」とうたっており、18歳以上であると自己申告したユーザーは課金して得たクレジットを消費することで、スマートフォン経由でディープフェイクのヌード画像を生成することができます。

アプリがリリースされてから約1年間にわたりClothOffの運営者らは匿名を守っており、メディアの電話インタビューに答える際も声を加工しているほか、AIを使ってCEOを名乗る人物の顔写真を生成したこともありました。以下の写真が、AIで生成されたと思われる架空のCEOの顔だとのこと。

長らくClothOffの背後にいる人物についての詳細は明らかになっていませんでしたが、The Guardianは6カ月にわたりClothOffの関係者を詳細に調査し、アプリの関係者とみられる人々を特定したと主張しています。

まず、ClothOffの痕跡をたどるとベラルーシとロシアにたどり着くものの、その前にヨーロッパやイギリスに拠点を置くフロント企業を通過するとのこと。The Guardianが確認したスクリーンショットによると、ベラルーシの首都ミンスクに住むダーシャ・バビチェヴァという名前のTelegramアカウントが、銀行への申請・ウェブサイトの変更・ビジネスパートナーシップの話し合いといったClothOffの業務を行っていることがわかりました。同名のInstagramアカウントがダーシャ氏のTelegramアカウントと同じ画像を共有し、掲載している電話番号も同じであることが確認されましたが、The Guardianが問い合わせた直後にInstagramアカウントは非公開化され、電話番号もプロフィールから削除されたそうです。

また、ソーシャルメディアアカウントの調査から、アレクサンドル・バビチェヴァ氏という30歳の人物がダーシャ氏の兄だと特定されました。ClothOffは求人の応募者を「AI-Imagecraft」というウェブサイトのメールアドレスに誘導しており、この「AI-Imagecraft」はアレクサンドル氏が所有する「A-Imagecraft」というほぼ同名のウェブサイトをコピーしたものだとのこと。ビジネスパートナーにClothOffの創設者として接触していたTelegramアカウントは「Al(アル)」という名前で、アレクサンドル氏のニックネームを連想させます。

さらに、アレクサンドル氏とアル氏がTelegramアカウントに投稿した写真を見ると、2人とも「1月24日にマカオの同じホテルに宿泊し、1月26日に香港の同じホテルの同じ部屋にいた」ことが判明しました。これは、少なくともアレクサンドル氏とアル氏が一緒に旅行へ行くほど親密な仲であるか、2人が同一人物であることを示唆しています。

しかし、The Guardianの問い合わせに対しアレクサンドル氏はClothOffとの関係を否定し、ダーシャという妹もいないと主張。自身の電話番号が記載されたTelegramアカウントも自分のものではないと否定し、その後の問い合わせには応じなかったとのことです。

The Guardianによると、ClothOffは資金の移動を偽装するため、ロンドンで登記されたTexture Oasisという会社を利用していたとのこと。Texture Oasisは建築や工業設計のプロジェクトに使用する製品を販売すると主張していますが、ウェブサイト上のテキストは別の合法的な企業からコピーされたもので、従業員として掲載されている人物もTexture Oasisについて何も知らないと回答したそうです。The Guardianの調査でも、Texture Oasisの従業員としてリストアップされた人々とClothOffの関係は見当たらず、適当な場所から名前をコピーしただけであると示唆されています。

また、アレクサンドル氏名義のLinkedInアカウントには、ロシアのゲーマーが西側諸国の制裁を回避するためのオンラインゲームマーケットプレイス・GGSelの従業員だと記載されていました。他にも、GGSelの従業員だと名乗るアレクサンダー・ジャーマン氏という人物のGitHubアカウントに、ClothOffのウェブサイトのコードがアップロードされるなど、ClothOffとGGSelとの関係を示す証拠をThe Guardianは多数発見しています。

実際にThe GuardianがGGSelとClothOffの関係について問い合わせを始めた後、GGSelに勤務していると記載されていたいくつかのLinkedInアカウントは、GGSelへの言及を削除したり氏名を変更したりしたとのこと。

ClothOffはThe Guardianの取材に対し、GGSelやこの記事で名前が挙がっている人物とは一切関係がなく、アプリでは18歳未満の人々の画像を「処理」することはできないと主張しました。しかし、ではどのようにしてスペインの事件で画像が生成されたのかについては、明言しなかったとのことです。