Facebookは「誤情報を防ぐ取り組み」として実際には何をやっているのか？

SNSにおける誤情報の広がりを防ぐべく、TwitterやFacebookといったプラットフォームは独自の取り組みを行っています。Facebookでは3万5000人の作業員が誤情報拡散と戦っているとのことですが、一言で「誤情報拡散と戦う」といってもそのアプローチはさまざまだとして、Facebookが具体的に何を行っているのかを明かしています。

How We’re Tackling Misinformation Across Our Apps - About Facebook
https://about.fb.com/news/2021/03/how-were-tackling-misinformation-across-our-apps/

新型コロナウイルス感染症(COVID-19)が流行してからは特にCOVID-19関連の誤情報の拡散が問題となり、Facebookは2020年12月に「デマや陰謀論といったCOVID-19の誤情報をInstagramやFacebookから削除する」と発表しました。

Facebookが新型コロナのワクチンに関する誤情報や陰謀論を削除すると発表 - GIGAZINE

この結果、Facebookは「世界の専門家が誤情報としてフラグを立てたCOVID-19とワクチンに関する1200万以上のコンテンツを削除した」と2021年3月22日付けで発表。誤情報の拡散防止には3万5000人の作業員が取り掛かっているとのことです。

またFacebookは一言で「誤情報の拡散防止」といっても、単一のソリューションによるものではなく、複数の問題にそれぞれのアプローチで臨む「包括的な取り組み」であることも述べました。具体的には、「偽アカウントの検出と削除」「詐欺行為の取り締まり」「善意の誤情報拡散へのラベル付け」などが挙げられています。

偽アカウントはFacebookが強く反対しているものの1つで、毎日何百万もの偽アカウントがブロックされており、そのほとんどがアカウント作成時に行われるとのこと。Facebookは2020年10月から12月の間に偽アカウントとして13億個のアカウントを無効化したと述べています。

また詐欺行為を取り締まる最善の行動は「背後にあるインセンティブ構造を破壊すること」だとして、Facebookはクリックベイト(詐欺・誇大広告)を検知して取り締まるシステムとチームを作成。加えて、人工知能を使ってスパムアカウントを検知・削除することにも成功しているとのこと。

そして、時には善意のユーザーが誤情報を拡散することもあるとして、Facebookとは独立した80のファクトチェッカーによるネットワークを作成し、世界60言語のコンテンツをチェック。コンテンツに問題があるときには他のユーザーが目にする回数を減らしたり、警告ラベルを付与したりといった取り組みを行っています。これと同時に投稿者に誤情報である旨を通知し、誤った情報を繰り返し共有するページ・グループ・ドメインについても表示回数を減らしているとのこと。この取り組みの延長線として、「深刻度が高い」とされるCOVID-19やワクチンの虚偽については、コンテンツ削除を行っているとFacebookは述べました。