AI生成の粗雑な動画がInstagramやTikTokのアルゴリズムをハックする「インターネットへのブルートフォース攻撃」が起きているという指摘

近年は生成AIの発達により、インターネット上でAI生成の画像や動画を投稿してインプレッションを稼ぎ、広告収益を得ようとするスパムアカウントが急増しています。海外メディア・404 Mediaの記者であるジェイソン・ケブラー氏が、スパマーが大量のAI生成動画を投稿してInstagramやTikTokのアルゴリズムをハックし、「インターネットへのブルートフォース攻撃」を仕掛けていると指摘しました。

AI Slop Is a Brute Force Attack on the Algorithms That Control Reality
https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/

ケブラー氏のInstagramアカウントには、大量の「AIが生成した動画」が毎日のように流れてくるとのこと。その多くは、以下のスクリーンショットのように奇妙でグロテスクなものだそうですが、これらの動画はアルゴリズムによって推奨されたものです。

以下はInstagramのアルゴリズムが推奨するAI生成動画の一例で、記事作成時点では3億6000万回以上も再生されています。内容は、他人の首根っこにかみついた人間がクモのような化け物に変化するというもので、不快感を覚える人も多いかもしれません。

この投稿をInstagramで見る

shiver(@shiverchain)がシェアした投稿

これらの動画はAIによって数秒～数分ほどで生成されたものであり、投稿者はあらゆるソーシャルメディアプラットフォームにアカウントを持ち、1日に大量の動画を投稿しています。ケブラー氏はこれらのアカウントによるAI生成動画の大量投稿を、インターネットに対する「ブルートフォース攻撃」になぞらえています。

ブルートフォース攻撃とは、パスワードを解除するためにあらゆる数字や文字の組み合わせを総当たりで試すというハッキング手法で、効率的ではないもののいずれは正解にたどり着くことができます。生成AI動画の大量投稿もこれと同様に、ありとあらゆる種類の動画を投稿することで「SNSのアルゴリズムが推奨してくれる動画」を探しだし、アルゴリズムに適した動画が見つかったらそれをひたすら投稿して広告収益を稼ぐことが可能というわけです。

ここでケブラー氏が強調しているのが、AI生成動画が意図している「視聴者」は人間ではなく、あくまでSNSのアルゴリズムだという点です。AI生成動画の投稿スパンは人間が作成した動画よりも圧倒的に短いため、すでにプラットフォーム上からは人間のクリエイターが作ったコンテンツがかき消されつつあるとのこと。また、アルゴリズムに適応するスピードもAI生成動画の方が素早いため、ゆくゆくは情報エコシステムが崩壊し、オンライン上で人々が見る「現実」も崩壊するだろうとケブラー氏は指摘しています。

もちろん、以前からYouTube・Instagram・TikTokなどで活動するクリエイターは、プラットフォームのアルゴリズムに推奨されやすい動画を作ろうとしてきました。しかし、いくらアルゴリズムを分析した動画作りをしたところで、それは比較的時間がかかるプロセスであり、投稿できる動画の数は数日～数週間に1本ほどです。これに対し、AIでの動画生成には1本あたり数秒～数分の時間しかかからないため、AI生成動画の投稿者は1日に数百～数千本もの動画を投稿できるとのこと。

ケブラー氏の下には毎日のように、さまざまなマーケティングメールが届くそうです。商材を売り込んできたダニエル・ビットン氏というYouTuberは、質の高いYouTube動画を作るのに時間を費やすのは意味がなく、AI生成動画を大量に投稿した方がはるかにもうかると主張してきたとのこと。

ビットン氏は30分以内に8～10本のAI生成動画を作っているとのことで、メールに「ショート動画の投稿において素晴らしいのはAIが使えるという点です。これは実質的に作業の90％を行います。あなたがする必要があるのは、いくつかの基準を与えてボタンを押し、動画を作成してアルゴリズムに任せるだけです」「YouTubeはあなたの制作価値を気にしません。彼らは視聴者を養うことに飢えており、視聴者は短いコンテンツに飢えています」と記しています。

ビットン氏と同様にTikTokやYouTube、Instagramで稼ぐ方法を販売しているムサ・ムスタファ氏も、「AIは文字通り最高のコンテンツで訓練されているので、より良い結果を得ることができます。コンテンツを作ってオンラインでお金を稼ぎたいならAIを使いましょう。簡単なことです」と述べています。

ビットン氏とムスタファ氏はいずれも、大がかりなスタジオや大量の資金を費やし、長時間の撮影や細かい編集を行って動画を制作することに意味はないと主張しています。その理由についてムスタファ氏は、ソーシャルメディアのユーザーを空腹の午前2時にコンビニに行く消費者になぞらえて、「午前2時に空腹だったら、ショボいホットドッグでさえ2口で食べきってしまうミシュランの食事よりおいしいと感じます。まあ、TikTokも同じように機能しています。視聴者は完璧に洗練された動画を期待していない、あるいは望んでいないのです」と説明しました。

さらにムスタファ氏は、「TikTokでバイラルになった動画を見て、『わあ、この色調は素晴らしい！』と最後に思ったのはいつでしょう？一度もないですよね。なぜなら、そんなこと誰も気にしていないからです。これは質ではなく量に焦点を当てて稼ぐことができるという意味であり、あなたにとっていいニュースです」と述べ、ソーシャルメディアのユーザーを満足させてお金を稼ぐには粗雑なAI生成動画で十分だと主張しています。

さらにケブラー氏は、通常のブルートフォース攻撃では攻撃された側がセキュリティを強化する一方、プラットフォームに対するAI生成動画のブルートフォース攻撃では状況が異なると指摘。なぜなら、プラットフォームはユーザーを引きつけて広告を視聴させることが目的であるため、結果的にユーザーがプラットフォーム上で視聴するのであれば、粗雑なAI生成動画を積極的に取り締まる必要がありません。つまり、プラットフォーム側はAI生成動画によって被害を受けるどころか、そこから利益を得ているというわけです。

Metaのマーク・ザッカーバーグCEOも2024年10月の電話会議で、「AIが生成したり要約したりしたコンテンツ、あるいは既存のコンテンツをAIが何らかの方法でまとめたコンテンツなど、まったく新しいカテゴリーのコンテンツが加わると思います。それはFacebookやInstagram、そしてThreadsやその他のフィード体験にとって、非常にエキサイティングなものになると思います」と述べており、AI生成動画を取り締まる気はまったくないようです。

また、Metaは「Advantage+」という広告主向けのAIツールも提供しており、これによって広告主はさまざまなバージョンの広告を大量に生成し、効果の高い広告を選別するテストを大規模に行うことが可能となっています。Metaの広告主向けのAIツールは大きく成長している分野だそうで、1月の決算説明会では400万人以上の広告主が、少なくとも1つ以上の生成AI広告ツールを使っていると報告されています。

ケブラー氏が目にするAI生成動画の多くは数百万回以上も再生され、多くのコメントが付いていますが、コメントの多くは嫌悪感やいらだちを示すものだとのこと。しかし、こうしたコメントを投稿したり、書き込んでいる間に動画を開いたままにしたりすると、アルゴリズムが「この動画は人々の興味を引きつけているから推奨するべきだ」と学習してしまいます。ケブラー氏は、「これは、エンゲージメントをポジティブなシグナルと見なすInstagramのアルゴリズムの弱点を利用しているものであり、この種のコンテンツを作成する人々はそれを知っているのです」と指摘しました。

このままAI生成動画が放置され続ければ、ゴールデンレトリバーの飼い主にはゴールデンレトリバーのAI生成動画が、終末論や陰謀論が好きな人には陰謀論のAI生成動画が、信心深い人にはイエス・キリストや教皇のAI生成動画が推奨されるような未来が到来します。そして、生活に占めるSNSのウエイトが高まっている現代では、アルゴリズムが推奨してくる動画が現実世界の認識に影響するため、AI生成動画が現実にも影響を及ぼすだろうとケブラー氏は主張しました。