服を着た女性の写真を簡単に裸にしてしまうボットがメッセージアプリ上で広まっている

人工知能による人物画像の合成技術であるディープフェイクは非常に精度の高い偽の画像を生成することが可能であり、2017年にはディープフェイクによる有名女優のポルノが急増して問題となりました。2020年10月20日、セキュリティ企業のSensityが、「メッセージアプリのTelegram上でディープフェイクを生成するボットが共有されている」と報告しました。

Automating Image Abuse: deepfake bots on Telegram - Sensity
https://sensity.ai/automating-image-abuse-deepfake-bots-on-telegram/

Deepfake bots on Telegram make the work of creating fake nudes dangerously easy - The Verge
https://www.theverge.com/2020/10/20/21519322/deepfake-fake-nudes-telegram-bot-deepnude-sensity-report

SensityはメッセージアプリのTelegram上で、リクエストに応じてヌード写真を生成する「ディープフェイクエコシステム」を発見したと報告しました。ユーザーがSNSなどで取得した女性の画像をボットに送信すると、ディープフェイクを活用するボットが服をはぎ取った偽のヌード写真を生成し、ユーザーに送るシステムになっているそうです。

さまざまなTelegramチャネル上で共有されているボットは、2020年7月末までに少なくとも10万4852人の女性のヌード写真を生成しており、ヌードの生成数は5月～7月の3カ月間で198％も急増したとSensityは述べています。また、ヌード写真の生成に使われた写真の70％はSNSアカウントから取得されたものか個人的に撮影した写真で、ヌード写真の中には未成年と思われるもあったとのこと。

ボットおよび関連チャネルは世界中で10万人以上のユーザーを引きつけているそうで、その70％はロシアか旧ソ連諸国だそうです。ボットは基本的に無料で利用できるものの、無料だと透かしが入った写真か部分的なヌードのみが生成されるそうで、完全な写真が欲しいユーザーは利用料金を支払う必要がある模様。ある「初心者向けプラン」では100ルーブル(約135円)を支払うことによって、「7日間で100枚の透かしがない画像」を生成できるとSensityは述べています。

Sensityの研究者によると、Telegram上でヌード写真を生成するために使われているソフトウェアは、2019年に登場した「DeepNude」だとのこと。DeepNudeはAIやニューラルネットワークを用いることで、女性の写真から服だけを削除して裸にしてしまうという凶悪なアプリケーションであり、すでに開発者によってウェブサイトは削除されています。ところが、一部の人々がDeepNudeをリバースエンジニアリングしたそうで、依然として密かに広がり続けているとSensityは指摘しています。

DeepNudeは敵対的生成ネットワーク(GAN)と呼ばれるAI技術を使用して偽のヌードを生成するソフトウェアです。生成されたヌード写真は本物のヌード写真と比較すると粗いケースが多いものの、実際の写真と間違えそうな精度に仕上がる場合もあるとのこと。

The Vergeは「Photoshopが登場する以前から、人々は合意を得ていない女性の偽のヌード写真を作成してきました」と述べ、AIを使わずにヌード写真を生成するフォーラムやウェブサイトもあると指摘。その一方で、ディープフェイクはよりリアルで高速なヌード写真の生成を行うことが可能であり、Telegramボットを介して自動化したことにより、写真の送受信と同じほど手軽に偽のヌード写真を生成できる点が問題だと述べています。

SensityのCEOを務めるGiorgio Patrini氏は、「主な違いはテクノロジーのアクセシビリティです」と述べ、プログラミングやコンピュータービジョンについての知識がないユーザーでも、Telegramを介して簡単にヌード写真を手に入れられる点を問題視しました。