Metaが「Facebook Jail(Facebook刑務所)」を発表、ポリシー違反コンテンツを削除するためのシステム改修

現地時間の2023年2月23日、Metaのコンテンツポリシー担当ヴァイスプレジデントであるモニカ・ビッカート氏がポリシー違反コンテンツを削除するための新しいシステムとして「Facebook Jail(Facebook刑務所)」を発表しました。Facebook Jailは従来のペナルティシステムよりも公平かつ効果的なものを目指しており、コンテンツ削除理由をユーザーが理解できるようにすることに重点を置いたものになっています。

How We're Improving Facebook’s Penalty System | Meta
https://about.fb.com/news/2023/02/meta-is-improving-facebooks-penalty-system/

Meta announces ‘Facebook Jail’ reforms that focus more on better explanations of policy, less on ‘timeouts’ | TechCrunch
https://techcrunch.com/2023/02/23/meta-announces-facebook-jail-reforms-that-focus-more-on-better-explanations-of-policy-less-on-timeouts/

Metaはポリシー違反コンテンツに対するペナルティシステムをより適切なものにするべく、専門家・学者・指導者・弁護士からなる独立機関であるOversight Boardからフィードバックを受けています。そして、フィードバックをベースにした公平かつ効果的なペナルティシステムとして、従来のシステムをアップデートした新しいペナルティシステム「Facebook Jail」を発表しました。

独立した監視機関であるOversight Boardは、以前からFacebookのペナルティシステムに対して懸念を表明しており、「不釣り合いで不透明」と指摘してきました。Oversight BoardはFacebookに対して、ペナルティシステムで罰則を与えたユーザーに対して透明性を高めるようアドバイスし、ユーザーがMetaの決定に異議を申し立てる際に違反投稿のコンテキストを説明できるようにすることを求めてきたそうです。

これらのフィードバックをベースにアップデートされたFacebook Jailは、ユーザーの投稿能力を制限することよりも、コンテンツ削除の背景にある理由を詳細に説明することに重点を置いています。新システムではほとんどの場合、7回のポリシー違反が発生することでようやく「コンテンツ投稿が30日間行えなくなる」というユーザーの投稿能力を制限する罰則が適用されます。

ビッカート氏はFacebook Jailについて、「この変更は、私たちが常に正しい判断を下せるわけではないことを理解しているためです。新しいアプローチは重大度の低い違反によるストライクが人々に過大なペナルティを与え、彼らの自己表現能力を制限することを防ぎ、継続的にポリシーに違反している人々に対してより迅速かつ影響力のあるアクションを起こすことにつながるはずです」と記しています。

Facebook Jailでは、ポリシー違反コンテンツの削除に関する意思決定プロセスはこれまでと何も変わっていないそうです。ただし、ポリシー違反が発生した場合にユーザーにポリシーを説明することで、意思決定に関する透明性を高めます。これまで、Metaのプラットフォームユーザーは自身のコンテンツが何を間違えたため削除されたのかを理解していなかった、とMetaは説明しています。中には突然投稿ができなくなるまで自身がペナルティを受けたことに気付かないユーザーもいたそうです。

Metaが従来のペナルティシステムを分析したところ、ストライク回数の少ないユーザーの80％近くがストライクを受けてから60日間にわたりポリシーの再違反を行っていないことが判明しています。そこで、Metaは7回以上のストライクを受けたユーザーに対してより厳しい罰則を適用し、「悪意のある人物を排除しながら、善意のある人々に必要なガイダンスを与える」ことを目指すそうです。

また、Metaは「テロリズム、児童搾取、人身売買、自殺促進、性的搾取、非医療用薬物の販売、または危険な個人や組織の宣伝」を含む投稿には、アカウントの削除を含む即時のアクションを実施するとしています。

海外メディアのTechCrunchは、MetaのFacebook Jailは「数年にわたるユーザーによる抗議と外部からの圧力の結果」と指摘。アメリカでは共和党議員がFacebookやGoogle、Twitterといったテクノロジー企業が保守的な検閲を行っていると長らく主張しており、近年は個々の決定に関する詳細な説明を行うことをテクノロジー企業に求めていました。

なお、Oversight BoardはMetaの新しいFacebook Jailを称賛していますが、重大なストライクに関する透明性については「改善の余地がある」と指摘しています。