AI作成のディープフェイクポルノには「レイプや出演を強制されたポルノの画像」が使われているものがある

性的虐待や搾取により制作されたポルノが、AIを利用して生成される「ディープフェイクポルノ」に用いられていることが、報道により判明しました。IT系ニュースメディア・Motherboardはこの問題を、「フランケンシュタインの怪物」と呼んで非難しています。

Images of Sexual Abuse Are Fueling AI Porn
https://www.vice.com/en/article/akdgnp/sexual-abuse-fueling-ai-porn-deepfake-czech-casting-girls-do-porn

Motherboardは2020年11月10日に、ネット上のティープフェイク制作コミュニティの間で流通しているデータセットには、「違法なポルノから切り出された静止画が含まれている」と報じました。Motherboardが実際に入手したデータの中には、女性に対するレイプやポルノ出演の強制などにより追及を受けているポルノ制作会社の「Czech Casting」や「Girls Do Porn」が制作した映像から抽出したものがあったそうです。

実際にMotherboardが確認している「Czech Casting」由来のデータサンプルが以下。データセットには、女性の顔や全身、乳房などの画像が多数含まれていました。Motherboardの取材に応えたAI技術者は、「このようなデータを選ぶのは、敵対的生成ネットワーク(GAN)の特性が理由です。均質な画像が多くあれば、GANモデルは顔のくぼみやそばかすのような細かい違いを学習することができるようになり、より高品質な結果が得られます」と説明しました。

こうしたデータセットを用いて、ディープフェイクポルノを作っている別の匿名の人物は、Motherboardの取材に対し、「アルゴリズム生成された画像は実在の人物ではないため、誰にも害を及ぼしません」と答え、自分たちの作品は人間のポルノパフォーマーを必要としない未来への第一歩であると主張しました。一方、「Czech Casting」による被害を受けた女性のジェーンさんは、こうして作られた作品を「被害者の人間性を奪うもの」と主張しています。

本名を伏せることを条件にMotherboardの取材に応えたジェーンさんが、Czech Castingの被害に遭ったのは、ジェーンさんが18歳の時でした。同い年の友だちが家賃の支払いに困っていることを知ったジェーンさんは、「ファッションモデルの仕事」の広告を見て、友だちと一緒に広告で指定されていた場所に向かいました。

指定の場所である地下鉄の停留所に着いたジェーンさんたちは、見知らぬ人物が運転する車に乗せられてプラハ郊外のスタジオに連れられました。そこで、受付の女性がジェーンさんたちの身分証明書を預かると、ジェーンさんたちは1人ずつ撮影室に呼ばれて、「これから撮影する映像には、チェコ共和国に住む人が一切アクセスできない」ことを約束する契約書にサインさせられたとのことです。

確かに、Motherboardは「Czech Casting」のサイトがチェコ共和国からのアクセスを遮断していることを確認しています。しかし、「Czech Casting」を提訴している被害者女性らは、サイトには無料で使用可能なVPN経由で簡単にアクセス可能な上に、映像は他のムービー共有サイトにも転載されているため、家族や友人が簡単に映像を見つけることができたと証言しています。

ジェーンさんが契約書にサインすると、男性がやってきて処女かどうかを尋ねました。その時、ジェーンさんは「身分証明書がないと帰れない。逃げ場がない」と感じたそうです。ジェーンさんが「はい」と答えると、男性はカメラを持って来て「裸になれ」と言い撮影を行いました。その時のことを、ジェーンさんは「声を出すのも怖かった」と振り返っています。

その後、帰ろうとするジェーンさんはお金を受け取りましたが、最初にサインした契約書の写しなど証拠になるようなものは一切渡されませんでした。その後、ジェーンさんと一緒だった友だちがジェーンさんに、「自分たちがいたのと同じ部屋をポルノサイトで見つけた」と言った時、ジェーンさんは「失敗だった。身分証明書がなくても帰るべきだった」と感じたとのことです。

この事件から数週間後、ジェーンさんのSNSには無数のメッセージが届くようになりました。ジェーンさんは、「ほとんどが男性のメッセージで、内容は私がどれだけ美人でセックスしたいかというものでした。このメッセージのせいで、私はFacebookの名前まで変えないといけませんでした」と話しました。

AI企業ParityのデータサイエンティストであるRumman Chowdhury氏は、こうした問題について「同意なしで集められたデータベース画像を無断で利用するような、『AIの倫理的利用』などあり得ません」と話しました。

また、リベンジポルノやテクノロジー関連の性被害を専門とする弁護士であるHonza Červenka氏は「レイプ映像を用いたテクノロジーは、レイプ文化を永続化させるもの以外の何物でもありません。私がこうした作品を作る技術者だったら、枕を高くして寝ることはできないでしょう。なぜなら、彼らは性的虐待の画像でフランケンシュタインの怪物を作っているからです」と述べました。