AIで顔と裸を合成する「ディープフェイクポルノ」の被害に遭った女子高生たちにほとんど救済の道がないことが問題に

高精度な画像生成AIの興隆によって、近年では他人の顔を無断で使用する「ディープフェイクポルノ」が問題視されています。ディープフェイクポルノを使った嫌がらせやセクストーションなどの被害が急増している一方で、ディープフェイクポルノに関する規制が追いついていないことを海外メディアのNBCニュースが報じています。

Little recourse for teens girls victimized by AI 'deepfake' nudes
https://www.nbcnews.com/news/us-news/little-recourse-teens-girls-victimized-ai-deepfake-nudes-rcna126399

画像生成AIなどを用いて写真や動画の一部を別の素材とすり替えるディープフェイクは、AI技術の発達に伴って深刻な問題となっています。メディアでは著名人や政治家のディープフェイクが話題となりがちですが、最も広く使われているのはポルノ動画の顔を別人のものとすり替える「ディープフェイクポルノ」です。また、ディープフェイクポルノを手軽に使えるアプリも登場しています。

2023年10月には、アメリカ・ニュージャージー州にあるウェストフィールド高等学校の男子生徒が、AIを使用して同級生の女子生徒のヌード写真を作成し、共有していたことが判明し、その後警察による捜査が行われました。

AIが生成した「クラスメイトの女子高生の偽ヌード写真」を男子高生がグループチャットで共有したとして警察が捜査を開始 - GIGAZINE

ウェストフィールド高等学校でディープフェイクポルノの被害を受けたフランチェスカ・マニ氏は「AIの技術がどれほど複雑で恐ろしいものか知りませんでした。私を含め、他の女子生徒がクラスメートに裏切られ、このような被害を受けました。ディープフェイクポルノは、だれにでも起こりうることです」と述べています。

一方で、ディープフェイクポルノに対する規制や法律が追いついていないことも指摘されており、ニュージャージー州上院議員のジョン・ブラムニック氏は「今回の事件はかなり深刻な犯罪であるはずなのに、法執行機関はインターネットにおける嫌がらせの申し立てと同様に扱っています」と指摘し「子どもの顔にヌード画像を貼り付けるなら、児童ポルノであるのと同義です」と主張しています。

また、ブラムニック氏は「実際に撮影された画像が出回ることと、AIによって生成された画像が出回ることによる損害は同じであるにもかかわらず、現在の州法はAIが生成したコンテンツの作成者に対する処罰が十分ではありません」と指摘しています。さらに「児童ポルノと同様に、ディープフェイクポルノは被害者に不快感を与えるだけでなく、被害者の名誉も傷付けます。一度ディープフェイクポルノが作成され、公開されてしまうと、オンライン上での画像の在りかは分からなくなってしまいます」と喚起しました。

これらの問題を受けて、ニュージャージー州ではディープフェイクポルノを禁止し、合意のないコンテンツの公開に対して民事罰に加え、刑事罰として3年から5年の懲役および1万5000ドル(約220万円)の罰金を科す法案の審議が行われています。

合意のないポルノと戦うNPO法人「Cyber Civil Rights Initiative」の会長であるメアリー・フランクス氏によると、この法案が可決されれば、ニュージャージー州はディープフェイクに関する法律を制定した10個目の州になるとのこと。

一方でフランクス氏は、ウェストフィールド高等学校で発覚したディープフェイクポルノの被害は氷山の一角に過ぎず、多くの女子生徒がディープフェイクポルノの被害を受けているにもかかわらず、その被害に気付いていなかったり、学校側がそれを隠ぺいしていたりする可能性があると指摘しています。

54人の司法長官らからなるNational Association of Attorneys Generalは、「AIが技術の悪用の新たなフロンティアを生み出し、コンテンツ作成者に対する訴追を困難にしています。私たちは、AIの危険からアメリカの子どもたちを守るために、時間との戦いに取り組んでいます」と述べています。

フランクス氏は「ニュージャージー州で法律が施行されると、ディープフェイクポルノの作成や公開によって刑事罰が与えられることが周知されます。また、実際に刑事罰を受けるコンテンツ作成者が報じられれば、自身も刑事罰を受けるのではないかという想像が働き、ディープフェイクポルノの被害が減少するかもしれません」との期待を示しています。