AIが生成したフェイクニュースを掲載するウェブサイトが半年で1000％以上に爆増している

ChatGPTやBardなどの高性能なAIは人間と見分けが付かないような文章を生成できますが、生成する内容が事実であるとは限らず、悪意を持った誰かがフェイクニュースを生成させることもできます。そんなAI生成フェイクニュースを掲載するウェブサイトが2023年5月以降で1000％以上に急増し、政治や戦争、自然災害に関するデマがこれまでになく拡散しやすい状況になっていると報じられました。

Tracking AI-enabled Misinformation: Over 600 ‘Unreliable AI-Generated News’ Websites (and Counting), Plus the Top False Narratives Generated by Artificial Intelligence Tools - NewsGuard
https://www.newsguardtech.com/special-reports/ai-tracking-center/

How AI fake news is creating a ‘misinformation superspreader’ - The Washington Post
https://www.washingtonpost.com/technology/2023/12/17/ai-fake-news-misinformation/

オンラインのフェイクニュースを追跡する団体・NewsGuardの調査によると、AIが生成した信頼性の低いニュースサイトが2023年12月の時点で614件も確認されているとのこと。AI生成ニュースを掲載するウェブサイトの数は、5月時点の49件から1000％以上も増えており、アラビア語・中国語・チェコ語・オランダ語・英語・フランス語・ドイツ語・インドネシア語・イタリア語・韓国語・ポルトガル語・スペイン語・タガログ語・タイ語・トルコ語など、合計15言語にまたがって存在しているそうです。

これらのウェブサイトには「iBusiness Day」「Ireland Top News」「Daily Time Update」など、一般的なニュースサイトらしく見える名前が付けられています。また、ウェブサイトが人間による監視や編集をほとんど受けずに運営されており、公開されている記事がAIによって生成されたものであることも曖昧にされています。

NewsGuardの研究者であるジャック・ブリュースター氏は、「これらのサイトの中には、1日に数千件とまでは言わないまでも、数百件の記事を生成しているものもあります」と述べ、フェイクニュースの拡散にAIが利用される可能性があると警告しています。

AIは政治・テクノロジー・エンターテインメント・旅行などさまざまなテーマに関する記事を生成可能ですが、内容が事実に基づいているわけではありません。NewsGuardが発見したある記事では、「イスラエルのベンヤミン・ネタニヤフ首相付きの精神科医が死亡し、ネタニヤフ首相の関与を示唆する抗議文が残されていた」という事実無根の内容が記載されていたとのこと。

このフェイクニュースに登場する精神科医は架空の人物でしたが、この記事を元にした内容がイランのテレビ番組で取り上げられ、アラビア語・英語・インドネシア語などのメディアで拡散されたほか、TikTokやReddit、Instagram、X(旧Twittter)などのSNSでもフェイクニュースが拡散されました。

ネタニヤフ首相に関するフェイクニュースを掲載したウェブサイトのGlobal Village Spaceは、「ロシアの武器業者に対するアメリカの制裁」「石油大手サウジアラムコのパキスタンへの投資」「アメリカと中国の関係」など、さまざまな政治的に深刻なトピックにまたがる記事を掲載しています。また、中東のシンクタンクに所属する専門家、ハーバード大学で教育を受けた弁護士、ウェブサイトの運営者でパキスタンのテレビニュースキャスターであるモイード・ピルザダ氏のエッセイなども掲載されているとのこと。なお、大手日刊紙のワシントン・ポストの問い合わせに対し、ピルザダ氏は回答しませんでした。

Global Village Spaceに掲載されている記事の中には、エッセイや実際のニュースなども含まれており、その間に紛れ込ませるようにAIが生成したフェイクニュースが掲載されているそうです。そのため、読者がフェイクニュースを見抜くことがより難しくなっているとのこと。フェイクニュースの専門家でシンシナティ大学のジャーナリズム教授を務めるジェフリー・ブレビンズ氏は、「これらの記事がうそだと見抜けるメディアリテラシーがない人は大勢います」と指摘しています。

2020年のアメリカ大統領選挙では、東ヨーロッパに拠点を置くトロール・ファームと呼ばれるプロパガンダ推進グループがフェイクニュースを拡散し、選挙結果に影響を与えたといわれています。2019年の時点でアメリカ人キリスト教徒向けに公開されていたFacebookのページ上位20位のうち、19ページはアメリカ国外のトロール・ファームによって運営されていたこともわかっています。

しかし、これまでのフェイクニュースが人力で作られていたのに対し、AIは圧倒的に短時間・低コストで膨大な数のフェイクニュースを生成できます。そのため、2024年の大統領選挙ではGlobal Village Spaceのようなウェブサイトが乱立し、AIが生成したフェイクニュースが大量拡散される状況になることがほぼ確実視されています。記事作成時点では、国家的な諜報機関がAI生成ニュースをプロパガンダに利用したという証拠は見つかっていませんが、ブリュースター氏は「これが使われていたとしても、まったく驚きません。来年の選挙では間違いなく使われるでしょう」とコメントしました。

ワシントン・ポストは、「歴史的に、プロパガンダ活動はまともに見えるウェブサイトを構築するため、大量の低賃金労働者や高度に訓練された諜報機関に依存してきました。しかし、AIは諜報機関の1人であろうと地下室のティーンエイジャーであろうと、ほとんどすべての人が実際のニュースと区別するのが難しいコンテンツを生成し、これらのウェブサイトを簡単に作成できるようにしています」と述べています。

言論の自由に抵触する恐れがあるため、政府がフェイクニュースコンテンツを取り締まるのは困難であり、増え続けるフェイクニュース掲載ウェブサイトはほとんど規制されていません。ブレビンズ氏は、フェイクニュース対策として最も重要なのは「平均的な読者のメディアリテラシーを高めること」だと主張。「世の中にはこのようなウェブサイトがあることを人々に知ってもらいましょう」と述べ、一見して真面目そうなニュースサイトだからといってすぐに信頼せず、ニュースサイトごとに信頼性の違いがあることを理解する必要があるとのことです。