インターネットがAIとボットに支配されているという「インターネット死亡説」は本当なのか？

「dead internet theory(死んだインターネット理論)」とは、インターネットはすでにAI生成コンテンツやボットに支配されているとする説です。オーストラリアのニューサウスウェールズ大学でコンピュータサイエンスの講師を務めるジェイク・レンゼラ博士らが、死んだインターネット理論は現実のものとなっているのか、インターネットがAIやボットに支配されることの問題点は何なのかについて解説しています。

The ‘dead internet theory’ makes eerie claims about an AI-run web. The truth is more sinister
https://theconversation.com/the-dead-internet-theory-makes-eerie-claims-about-an-ai-run-web-the-truth-is-more-sinister-229609

SNSをよく利用する人であれば、明らかにAIが生成したであろう奇妙な画像や動画を投稿するアカウントを見たことは一度や二度ではないはず。レンゼラ氏らは、Facebookで「shrimp Jesus(エビ イエス)」と検索すると、AIが生成した「甲殻類とイエス・キリストが合体した謎の画像」が大量に表示されると指摘。これらの画像の中には、2万を超える「いいね！」や数百件ものコメントを獲得したものもあるとのことです。

このような投稿は、SNSを含むインターネット上の活動とコンテンツはAIやボットによって生成および自動化されており、生身の人間の有機的な活動が覆い隠されているとする死んだインターネット理論の根拠とみなされることがあります。

これらのAIエージェントはFacebook・Instagram・TikTokなどのプラットフォームで、エンゲージメントを稼ぐために生成されたAI画像を迅速に投稿できます。「エビ イエス」についても、AIが不条理さと宗教が混じり合った画像が流行になりやすいと学習した結果だろうとレンゼラ氏らは指摘しています。

しかし、近年の死んだインターネット理論はさらに進み、このようなコンテンツへのエンゲージメント自体が、AIエージェントによって管理されるボットによって生成されたものだと主張しています。つまり、ボットが投稿したAI生成画像に対し、ボットアカウントがいいねやコメントを残しているというわけで、そこに人間の関与はありません。

これらのエージェントがエンゲージメントを獲得する動機としては、「SNSのエンゲージメントに応じて広告収入が得られるため」とも考えられます。しかし、こうしたAIエージェントは必ずしも無害なエンゲージメント稼ぎであるとは限りません。

AI主導のエージェントが多数のフォロワーを獲得することができれば、そのアカウントは人間のユーザーを「これだけフォロワーが多いのだから、信頼できる人間のアカウントなのだろう」と誤認させられる可能性が高まります。そのため、特定の政権を支持したり反対派を攻撃したりするような投稿が、真実味をもって受け止められやすくなる可能性があるとのこと。

2022年には「10代の若者はニュースサイトよりもInstagramやTikTokなどのSNSで情報を得ている」という研究結果が報告されるなど、SNSは若者にとって重要なニュースソースのひとつとなっています。すでに、ソーシャルメディアがこれらの水増しされたボットによって操作され、偽情報で世論を動かそうとしている証拠があるとのこと。

2016年～2017年にTwitter(現X)へ投稿された1400万件のツイートを分析した研究では、ボットが信頼性の低い情報の拡散に強く関与していることが示されました。フォロワー数の多いアカウントは、フェイクニュースや誤情報を正当化し、人間のユーザーがこれらのコンテンツを信じてシェアするように仕向けていたとレンゼラ氏らは述べています。

レンゼラ氏らは、インターネットはもはや人間のためのものではなく、悪質なエージェントがAIやボットを駆使して世論や主張をコントロールしようとする場になっているとの見方を示した上で、「死んだインターネット理論は、ソーシャルメディアやその他のウェブサイトを批判的な心で見て、懐疑的になることを思い出させてくれます。どんな交流やトレンドも、特に『全体的な感情』は人工的に作られたものである可能性が非常に高いといえます。これらは、あなたが世界を認識する方法を少し変えるために設計されているのです」と述べました。