Facebookのニュースフィードのバグにより「誤情報やロシアメディアのコンテンツ」の閲覧数が増加したことが判明

by www.shopcatalog.com

Facebookでは誤情報や不適切なコンテンツの拡散を防ぐため、ニュースフィードに配信するコンテンツの基準を設けており、問題のあるコンテンツはニュースフィードに表示されにくくなるシステムを導入しています。ところが、6カ月にわたり「本来なら降格されているはずのコンテンツがニュースフィードに配信されてしまうバグ」が存在し、いくつかの不適切なコンテンツがユーザーの目に触れやすくなっていたことが判明しました。

Facebook News Feed bug mistakenly elevates misinformation, Russian state media - The Verge
https://www.theverge.com/2022/3/31/23004326/facebook-news-feed-downranking-integrity-bug

Facebookではプラットフォームを健全に保つため、問題のあるコンテンツがニュースフィードに流れにくくなるシステムを導入しています。2021年9月に公開されたコンテンツ配信ガイドラインによると、「迷惑な広告」「コンテンツについて過大に誤解させる文言を使用した投稿」「不必要にユーザーデータを要求するウェブサイトへのリンク」「スパムの可能性が高いもの」「ファクトチェックで偽とされた情報」「広く信頼されていないニュースパブリッシャーからの投稿」「コミュニティガイドラインのボーダーライン上のコンテンツ」「コミュニティガイドライン違反の可能性が高いコンテンツ」「性的および衝撃的なコンテンツを含むランディングページへのリンク」などが表示されにくくなるとのことです。

どんな投稿がFacebookのニュースフィードに表示されにくくなるのかをFacebook自身が解説 - GIGAZINE

ところが、海外メディアのThe Vergeが入手したFacebookの内部報告書によると、2021年10月にFacebookのエンジニアグループは「ニュースフィードにいきなり誤情報が流れ始めた」ことに気付いたとのこと。この事例では、「外部のファクトチェッカーによって誤情報のフラグが立てられたコンテンツを繰り返し投稿していた」として、本来であれば表示されにくくなるはずのユーザーの投稿が抑制されず、ニュースフィードに配信されてしまっていたそうです。結果として、この誤情報コンテンツの閲覧数は世界中で30％も増加しました。

エンジニアグループは根本的な問題を突き止めるのに苦労し、2022年3月11日に問題が修正されるまでの半年間、繰り返しニュースフィードの問題が発生したと内部報告書には記されています。内部調査によると、バグによってニュースフィードに配信されたコンテンツには誤情報だけでなく、ヌード、暴力、そしてロシアの国営メディアなどのコンテンツも含まれていたそうです。

Facebookを運営するMetaの広報担当者であるジョー・オズボーン氏は、The Vergeへの声明でこのバグについて認めました。そして、「5つの別々の機会でランキング降格の不一致を検出し、内部指標の小規模で一時的な増加と相関しました」と述べています。

内部文書によると、このバグを引き起こした技術的な問題は2019年に導入されていたそうですが、目立った問題は2021年10月まで発生しませんでした。オズボーン氏は、「私たちはソフトウェアのバグを引き起こした根本原因をたどり、必要な修正を適用しました」と述べ、バグはFacebookの内部指標に長期的な影響を及ぼさなかったことや、削除のしきい値を満たすコンテンツについては影響しなかったことを付け加えました。

FacebookのCivic Integrityチームの元メンバーであり、ソーシャルサイトの完全性を求める非営利団体・Integrity Instituteの共同創設者であるSahar Massachi氏は、大規模なシステムにはバグが不可避であることを認めつつ、Facebookほど強力なソーシャルプラットフォームにおいてその影響は大きいと主張。「私たちは持続可能な説明責任システムを構築する真の透明性を必要としています。それにより、こうした問題を迅速に知ることが可能になるのです」と述べました。