FacebookのAI生成スパムは発展途上国のインフルエンサーによって推進されておりMetaのボーナスプログラムのせいで悪化している

FacebookやXなどのSNSには、明らかにAIが生成したと思われる奇妙な画像や動画が数多く投稿されており、特にFacebookではAI画像を投稿しまくってお金を稼ぐスパムアカウントが台頭しています。海外メディア・404 Mediaの記者であるジェイソン・ケブラー氏が、「AIスロップ」と呼ばれるこれらのスパムアカウントを推進するインフルエンサーや、その動機になっているMetaのパフォーマンスボーナスプログラムについて調べたレポートを発表しました。

Where Facebook's AI Slop Comes From
https://www.404media.co/where-facebooks-ai-slop-comes-from/

ケブラー氏は数カ月にわたり、Facebook上で人気を集めているAIが生成した奇妙な画像スパムアカウントと、その背後にあるインフルエンサーやMetaの報酬プログラムといった問題について調査してきました。ケブラー氏の調査によると、Facebookに投稿されているAI画像はインド・パキスタン・インドネシア・タイ・ベトナムといった発展途上国のインフルエンサーや企業によって推進され、数年前から存在していたFacebook上のスパム経済を引き継ぐ形で進化してきたとのこと。

インドのインフルエンサーであるギャン・アビシェク氏は、自身のYouTube動画で「AI生成画像を使って人気のFacebookアカウントを作る方法」について解説しています。

Facebook FREE Course 🔥 | Earning ₹4 Lakh/Month from Facebook | Facebook Se Paise Kaise Kamaye - YouTube

動画の中で、アビシェク氏はスクリーンにFacebookのダッシュボードを映し、自身のアカウントで投稿した画像が多額の収益を生み出していることをアピール。

その上で、痩せ衰えた人々や自然災害、飢えた子ども、かわいいペットといった感情を呼び起こす画像が、特に多くの「いいね」を獲得していると説明しています。

アビシェク氏は「あなたもこのようなページを作成し、画像をアップロードし、パフォーマンスボーナスを通じてお金を稼ぐべきです」と呼びかけて、Ideogramという画像生成AIを使ってこのような画像を生成する方法について解説しました。

アビシェク氏のYouTubeチャンネルは13万人を超える登録者を獲得し、動画の総再生回数は1000万回を超えています。ケブラー氏は、これらのインフルエンサーはアメリカにおける金融インフルエンサーのような役割を果たしており、Facebookやその他のプラットフォームで人気を得ることでお金を稼ぐ方法を教えていると指摘しています。

彼らのビジネスモデルの一部はYouTubeからの広告収入の他に、WhatsAppやTelegramなどのオンラインコースやAIプロンプトの販売も含まれています。また、インフルエンサー同士で動画やポッドキャストに出演し、Facebookで収益を得る方法やアルゴリズムの変更について議論しているとのこと。

アビシェク氏も、マダブ・クマール氏というAIスパムアカウント運営者にインタビューをした動画を投稿しています。クマール氏はもともとムンバイで働いており、その時の月給は1万～1万5000ルピー(約1万7000円～2万6000円)ほどでしたが、FacebookのAIスパムアカウントに注力し始めてから月に10万ルピー(約17万円)以上を稼げるようになったと話しています。クマール氏はPCを持っておらず、スマートフォンのみを使ってAI画像のアップロードを行っているそうです。

Ai Photo & Video से ₹2 लाख\महीना | Earning ₹2 Lakh/Month from Facebook | Ai Image Generator - YouTube

アビシェク氏の動画ではIdeogramという画像生成AIが使われていましたが、実際にFacebookで見る奇妙なAI生成画像のほとんどは、Microsoftが提供しているImage Creatorで作成されたものだそうです。以下の動画では、別のインフルエンサーがBingを含む画像生成に役立つサービスの他、エンゲージメントを稼ぐのに役立つハッシュタグをコピー＆ペーストするためのウェブサイトを紹介しています。

Facebook पर Photo Upload करके 2-Lacs महीना | Facebook se paise kaise kamaye | Facebook Bonus - YouTube

インフルエンサーらがFacebookのAIスパムアカウントに注力しているのは、Metaが多くのエンゲージメントを稼いだ投稿に報酬を支払うボーナスプログラムを提供しているためです。これはコンテンツクリエイターやインフルエンサーが高品質のコンテンツを投稿するように奨励するものですが、結果として奇妙なAI生成コンテンツの投稿を加速させています。

ケブラー氏が接触したMetaの元従業員は、Facebook自身もこうした抜け道に気付いているものの、レイオフによってコンテンツモデレーションチームが手薄になったため、規制が追いついていないと語っています。

また、実際にMetaの広報担当者に対してボーナスプログラムとAI生成コンテンツに対する姿勢を尋ねたところ、コンテンツの多くはポリシーに違反しておらず、Facebookのコミュニティ基準に違反していない限り問題にはならないとの見解を示しました。広報担当者は声明で、「私たちはクリエイターがAIツールを使用して、コミュニティ基準を満たす高品質なコンテンツを制作することを奨励しています。そして、AIを使用しているかどうかにかかわらず、不正なエンゲージメントでトラフィックを誘導しようとする者には措置を講じます」と述べました。

ケブラー氏によると、一連のAIスパムは突然現れたものではなく、以前から存在していたFacebookスパムの進化形だとのこと。これらのスパムアカウントは、以前はすでに人気になった画像や動画、あるいは著作権侵害報告を受けにくい中国圏のコンテンツを転載するなどの方法で収益を稼いでおり、その方法が記事作成時点ではAI生成コンテンツに移ったというわけです。WhatsAppやTelegramなどのグループではFacebookで収益を稼ぐ方法がレクチャーされており、有料コースへ誘導したりFacebookのコンテンツ投稿自動化ツールへの課金を促したりしているとのこと。

中でも「FewFeed」というフィリピンの開発者が提供するコンテンツ投稿自動化ツールは、月額5ドル(約740円)で「画像の一括アップロードと投稿スケジュールの設定」「管理者に放棄されたFacebookグループの自動取得」「他のFacebookページで人気を集めたコンテンツの収集」「膨大な数のFacebookグループへの自動参加」「コンテンツモデレーションを回避するためのランダムなメッセージ送信」「人気の出なかったコンテンツの自動削除」といった強力な機能が利用可能になります。ケブラー氏は実際にBing Image CreatorとFewFeedを使用し、AIコンテンツの生成・投稿をテストしたと報告しています。

ケブラー氏は、Facebook上でAIスパムが氾濫しているのは、Metaが金銭的なインセンティブを与えており、それが発展途上国の他の仕事に比べて報酬が高い上に、AIツールによってこの種のコンテンツを大規模に作成・投稿可能になったことが理由だと指摘。生成AIツールやAIスパムによるプラットフォームの劣化に関する議論に、「アメリカのハイテク企業が製品をモデレーションが不十分な発展途上国に展開し、AIツールを使ってお金を稼ぐユーザーを増やしている」という観点も含めるべきだと主張しました。