チャットAIを使った収益目的の低品質なニュースサイトが乱立していることが明らかに

ニュースサイトの格付け機関「NewsGuard」が、チャットAIを使って記事を掲載するニュースサイト49件を特定しました。これらのサイトは「クリックベイト記事」で収益を生み出すために誤解を招くコンテンツや広告が全体に散らばっている低品質のコンテンツを大量に生成していると指摘されています。

Rise of the Newsbots: AI-Generated News Websites Proliferating Online - NewsGuard
https://www.newsguardtech.com/special-reports/newsbots-ai-generated-news-websites-proliferating/

AI Chatbots Have Been Used to Create Dozens of News Content Farms - Bloomberg
https://www.bloomberg.com/news/articles/2023-05-01/ai-chatbots-have-been-used-to-create-dozens-of-news-content-farms

Group identifies dozens of news sites created by AI chatbots: report | The Hill
https://thehill.com/policy/technology/3981925-group-identifies-dozens-of-news-sites-created-by-ai-chatbots-report/

AI Content Farms Use OpenAI's ChatGPT for Fake News Stories
https://gizmodo.com/chatgpt-ai-fake-news-stories-content-farms-newsguard-1850391104

2023年4月、NewsGuardはチャットAIを用いて低品質なコンテンツを作成する49件のウェブサイトを特定しました。これらのウェブサイトは中国語、チェコ語、英語、フランス語、タガログ語、タイ語の7言語にわたって運営されています。これらのウェブサイトが含むコンテンツの一部または全部はチャットAIによって生成されていると考えられています。これらのウェブサイトでは、政治、健康、エンターテインメント、金融、テクノロジーなど多種多様なトピックに関連する大量のコンテンツが生成されており、1日に何百本もの記事を公開するサイトも存在します。

海外ニュースメディアのBloombergの調査では、これらのウェブサイトは「News Live 79」や「Daily Business Post」のような一般的な名前のニュースサイトを名乗っていることもあるとされています。ウェブサイトのコンテンツがすべてチャットAIにより作成されているわけではありませんが、ChatGPTやGoogle Bardなどの利用を明示しているサイトはありません。

NewsGuardはこれらのウェブサイトに掲載された記事の一部を公開しており、記事の多くがCNNなどの著名な報道機関に掲載されたニュースを要約したり、書き直したりしたものであると指摘されています。

チャットAIを用いる低品質サイトのひとつである「CelebritiesDeaths.com」では、ジョー・バイデン大統領の虚偽の情報が掲載されていることも確認されています。このサイトでは「バイデン大統領が死去した」というタイトルで「大統領の執務はカマラ・ハリス副大統領に引き継がれた」という内容の記事が掲載されていました。一方で、記事の中には「申し訳ありませんが、誤解を招くコンテンツの生成に関するOpenAIのポリシーに反するため、このプロンプトを完了できません。誰か、特に大統領のような著名な人の死についてのニュースを捏造(ねつぞう)することは倫理的ではありません」というエラーメッセージがそのまま残されていました。

さらに「BestBudgetUSA.com」というウェブサイトが投稿した記事では、「私は1500語以上の文章を生成することができません。ただし、記事の要約を提供することはできます」というチャットAIが出力するメッセージがそのまま掲載されていました。

NewsGuardの調査によると、これらのニュースサイトの記事のほとんどにAIが生成した文章の特徴である「当たり障りのない言葉」と「繰り返しのフレーズ」が含まれています。さらに、これらのサイトは広告であふれかえっており、典型的なクリックベイト記事である可能性が高いとされています。

NewsGuardのゴードン・クロヴィッツCEOは「事実をでっち上げることで知られるAIモデルを使って、ニュースサイトのように見えるサイトを作り出すことは、ジャーナリズムに反する詐欺です」と指摘しています。また「OpenAIやGoogleなどのAI開発団体は、ニュースの捏造ができないようにモデルをトレーニングすべきです」と勧告しています。

さらにクロヴィッツ氏は「ここ数カ月で多数の強力なAIが発表され、世間に知れ渡る様になりました。そのため、かつてメディア研究者による臆測の対象であった、虚偽の報道にAIが使用される可能性があるという懸念が現実のものになりました」と述べています。

NewsGuardはこれらのウェブサイトのうち29サイトに問い合わせを行い、2つのサイトがAIを使用していることを認めています。残りの27サイトのうち、2つはNewsGuardからの質問に適切に答えず、17サイトは応答がありませんでした。また残り8サイトは無効なメールアドレスを使用していました。

「AIが生成したウェブサイトが広告のポリシーに違反しているのではないか」というBloombergの質問に対し、Googleの広報担当者は「広告のポリシーを適用する際には、コンテンツの作成方法ではなく、サイトの品質に焦点を当て、違反が認められた場合には広告の配信を停止または削除します」と述べています。

NewsGuardは「『控えめな読者』はこれらのウェブサイトに掲載された記事がAIによって書かれていることに決して気がつかないでしょう」と警告しています。