Facebookは既に画像生成AIが作ったパクリ投稿で埋め尽くされている

2019年に、FacebookがAIでプロフィール画像を合成した偽アカウントを削除したと発表したことが報道されるなど、AIは以前からソーシャルメディアの頭痛の種でしたが、これまでAI画像を見破るのは難しいことではありませんでした。ところが、リアルな画像を大量に出力できる生成AIの発達により、かつて予言されていた「生成AIが大量生産したゴミコンテンツが生身の人間の努力を圧倒する」という未来が既に現実のものとなっていると、IT系ニュースサイトの404 Mediaが報じました。

Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real
https://www.404media.co/facebook-is-being-overrun-with-stolen-ai-generated-images-that-people-think-are-real/

以下のFacebookの投稿では、製材所を背景に片膝立ちしている男性が、自慢げに見事な木彫りの犬を見せており、キャプションには「私が自分の手で作りました！」と書かれています。


この投稿には記事作成時点で100万件以上の「いいね！」や3万9000件のコメントが寄せられているほか、1万7000回も共有されています。また、投稿者はコメント欄にペット用品を販売するサイトへのリンクを貼っています。

Facebookには似たような投稿は数十件あります。添付されている写真はどれも微妙に異なっており、男性と彫刻の位置関係や男性の風貌、彫刻になっている犬種などがバラバラで、中には男性が女性になっているケースもあります。

それもそのはずで、404 Mediaによると上記の画像は全て別人の投稿を生成AIで加工した盗作だとのこと。

本物はイギリスを拠点とする彫刻家のマイケル・ジョーンズ氏が投稿した以下の写真です。残念なことにジョーンズ氏のオリジナルの投稿に寄せられた「いいね」は1475件、コメントは142件、共有された回数は123回と、偽の投稿に遠く及びません。


ジョーンズ氏は他にも多数の作品をFacebookに投稿していますが、これらの写真はジョーンズ氏のようなアーティストの努力から収益を得ようとしているスパム業者の餌食になってしまいました。ジョーンズ氏は404 Mediaに「悲しいことに、これは自分の作品に対する正当な評価を失っている私や私のような世界中の彫刻家にとって大きな問題です」と話しました。


これらのフェイク画像は、入力された画像を元にそれと似たような画像を生成する「image-to-image(img2img)」の生成AIによって作られています。

AIによる偽情報やディープフェイクを専門としているカリフォルニア大学バークレー校のハニー・ファリド教授は「これらの生成AIでは、画像を生成するたびにランダムに異なったものが得られます。その際、ユーザーは新しい画像の『強さ(Strength)』を0～1の間で設定できます。0なら元の画像は無視しろ、1なら元の画像そっくりのものを出力しろという意味です」と説明しました。

ジョーンズ氏の彫刻に関する情報を404 Mediaに提供したライターのブライアン・ペニー氏によると、Facebookには生成AIで作られたスパム投稿が無数にあるとのこと。

ペニー氏は、AI愛好家や陰謀論者が平然と生成AIによる盗作でFacebookを占拠し、何も知らない高齢者がその投稿に「すごいすごい」とコメントしながら「いいね」や「シェア」をクリックするのが当たり前の光景になっていると指摘しました。

生成AIの悪用は、記事作成時点では業者による収益狙いのスパム程度の問題で済んでいますが、将来的には大きな問題に発展しかねないと専門家は警鐘を鳴らしています。ファリド氏は「画像生成AIの画像は日増しにリアルになってきています。今後は現実と虚構を識別する能力が不可欠となり、もし写真を見るたびにそれを本物だと思うようであれば、冗談では済まない結果を招くでしょう」と話しました。

また、ペニー氏は「20年後の世の中がどうなっているのかはわかりませんが、インターネットで誰かが見せてきたものはもう二度と信じないつもりです」と話しました。