「信頼性の低いコンテンツ」を広めるにはわずかな数のTwitterボットで十分であるという研究結果

By Andre Pan

FacebookやTwitterなどのSNSを通じてデタラメな内容のコンテンツが拡散されることが、ネット社会における大きな問題として注目を浴びるようになっています。Twitter上での「フェイクニュース」の影響について実施された研究からは、Twitterのアカウント全体のうちわずか6％のボットによって、「信頼性の低いコンテンツ」の31％が拡散されているという実態が明らかにされています。

The spread of low-credibility content by social bots | Nature Communications
https://www.nature.com/articles/s41467-018-06930-7

'Relatively few' Twitter bots were needed to spread misinformation and overwhelm fact checkers, study finds
https://www.nbcnews.com/tech/tech-news/relatively-few-twitter-bots-were-needed-spread-misinformation-overwhelm-fact-n939021

全体と比較して小さな割合しか占めないボットが、プラットフォーム上に流れるフェイクニュースの拡散に大きな力を発揮していることを解明したのは、アメリカのインディアナ大学の研究者チームです。公表された報告書では、「ボットは、信頼性の低いコンテンツを拡散させることでファクトチェック済みの記事と見分けが付かない状態にまで増幅させます」と、ボットによる「フェイクニュース」の拡散効果が述べられています。

研究は、Twitterが「ロシアからの介入が2016年の大統領選に影響を与えた」として2018年に大量のアカウントを閉鎖した後に実施されたとのこと。対象となったのは、2016年5月から2017年3月にかけて投稿された1400万件以上のツイート。それらのツイートからは40万件の記事にリンクされていましたが、そのうち38万9569記事は「信頼度の低いソース」を基にしたものであり、ファクトチェックを行っている機関から「誤った情報を含んでいる」と分類されていたものだったといいます。一方、ファクトチェックで内容が認められた記事をソースに書かれた記事は1万5053件にとどまっていたこともわかっています。

これらの記事を広く拡散させるために、まずは「拡散の初期段階ではボットを使って拡散力を高める」という手法が取り入れられていたとのこと。そしてひとたび記事が拡散すると、今度はボットが「インフルエンサーを踏み台にしてより広い層にリーチする」という段階を踏んでいたことが明らかにされています。

いわば、まずは数の力で記事を最大限拡散することで一定の存在感を持たせた後に、インフルエンサーの拡散力を利用することであたかも記事に信頼性があるように偽装するという手法で、フェイクニュースは世の中に広く拡散されていたことが今回の研究では示されています。誤情報を拡散させる取り組みについて研究しているジョシュ・ラッセル氏は、「Twitterはユーザーから通報されたボットの駆除に多大な貢献をしていますが、その検知システムをもっと改良する必要があります」と述べています。