TwitterやInstagramにはびこる「デマ拡散ボット」の見分け方とは？

TwitterやInstagram、Facebookといったソーシャルメディアは主要な情報ツールとして現代人の生活に強く根ざすものとなりました。しかし、そんなソーシャルメディアに、2019年末から猛威を振るっている新型コロナウイルス感染症(COVID-19)に関するウソの情報を流すボットアカウントが登場。果たして「どれが本物の人間でどれがボットなのか」を見分ける方法について、クイーンズランド大学のサイバーセキュリティ学科教授であるライアン・コー氏が実際のボットアカウントを例に解説しています。

Meet ‘Sara’, ‘Sharon’ and 'Mel': why people spreading coronavirus anxiety on Twitter might actually be bots
https://theconversation.com/meet-sara-sharon-and-mel-why-people-spreading-coronavirus-anxiety-on-twitter-might-actually-be-bots-134802

新型コロナウイルスに関する誤情報をソーシャルメディアで広めるボットが登場し、多くの人を惑わせていることが既に報じられています。

新型コロナウイルスに関する誤情報をSNS上で広めるボットが数多く暗躍している - GIGAZINE

コー氏によれば、機械学習を応用してTwitterのボットを特定するサイト「Bot Sentinel」を使い、ハッシュタグを使ってCOVID-19関連情報の拡散を狙うTwitterアカウントを検査したところ、2020年3月26日時点で24時間以内に「#coronavirus」でツイートしたものが828件、「#COVID19」でツイートしたものが544件、「#Coronavirus」でツイートしたものが255件見つかったとのこと。この3つのハッシュタグは、ボットアカウントが使っているハッシュタグの人気トップ10のうち、それぞれ1位、3位、7位だったそうです。

ボットはプログラムによって管理されており、その動作は人間のユーザーが制御します。ボットプログラムは誤情報を流すためだけではなく、マーケティングの目的でも利用されることが多く、アンダーグラウンドなダークウェブ市場ではボットプログラムの売買や、ボットプログラムを運用するサービスのレンタルが取り扱われているそうです。

こうしたボットプログラムを利用するのは個人だけではありません。オックスフォード大学のインターネット研究所は2019年に発表した(PDFファイル)報告書で、「2017年に28カ国、2018年に48カ国で『組織化されたソーシャルメディア操作キャンペーン』が行われた証拠があります。各国にはソーシャルメディアを使用して世論を形作る政党あるいは政府機関が少なくとも1つあります」と主張しています。

コー氏は、ボットがCOVID-19に関する誤情報を拡散するための主要な方法として、「コンテンツの作成」「コンテンツの誇張」の2つを挙げています。

「コンテンツの作成」とは、例えば「食料品が入った買い物カゴ」や「スーパーマーケットで買いだめが起こって棚が空になっている様子」の写真をアップロードし、人々に不安を与えるというもの。

そして「コンテンツの誇張」とは、政府の公式声明やニュースサイトを利用しながら、ウソのコメントや情報を追加しながら、ユーザーの恐怖や怒りをかき立てるというもの。そのため、ボットはリツイートを繰り返しながら「日常の中のイライラする出来事」や「自分の愛する人が直面している社会的不公正」について語ることが多いそうです。

その例が以下。Queensland Health(クイーンズランド州の医療衛生部門)による、「海外旅行に行ったことないか、あるいはCOVID-19感染が確定した人と接触していない場合は、風邪やインフルエンザなど別のウイルスに感染している可能性が高いため、COVID-19の検査は行われません」というツイートに対して……

Sharonというユーザーは「それでCOVID-19感染が確定した人と密に連絡を取っているのか、感染した人が誰でどこにいるのかがわからない場合はどうしたらいいんですか？」とリプライ。

Saraというユーザーは「私の母はCOVID-19に感染した可能性があります……。母は基礎疾患に苦しんでいる時に検査する必要はないといわれました。なんという冗談！今やコミュニティ全体に広がっています。それでも母親は飛行機に乗ったり特に流行している国の人と接触したりしていません」とリプライしています。

コー氏は「SharonやSaraがボットアカウントであると100％断言することはできません」としながらも、以下のような特徴から、ボットアカウントであることはほぼ確実だとしています。

・フォロワーがほとんどいない。
・つい最近Twitterにアカウントが作成されたばかり。
・ツイート自体はほんの数回程度。
・ツイートの内容は1つのテーマに沿ったものだけ。
・ニュースサイトや政府機関、専門家や組織など、影響力のあるユーザーばかりをフォローしている。

コー氏がTwitterにおけるSharonの活動を調査した結果、連邦政府のCOVID-19対策を報じるニュース記事に対する怒りを煽(あお)ろうとしていたことが明らかになったとのこと。また、SharonはMelという「友人」とつながっていることが判明したそうです。このMelもまたボットアカウントであるとされており、Melがボットアカウントだとわからない人間のユーザーから話しかけられているところも確認されたそうです。

コー氏は「ボットの目的はいたずらから政治的操作まで多岐にわたります。『ボットによるデマゴギーの拡散は誰が黒幕なのか』を特定するのは非常に難しいものがあり、ソーシャルメディア企業の全面的な協力がなければ達成できません」と述べ、AIによる検出ツールを使ってボットアカウントを選別することは重要だと主張。「私たちにとって最も不必要なのは、すでに懸念されている危機を悪化させようとする、悪意のある人々です」と述べました。

なお、コー氏がSaraをボットと判定したことに対して、Saraは「私はボットではありません」と反論しています。