Instagramがアルゴリズムを変更、「親パレスチナのコンテンツを検閲した」と社内から抗議受け

「世界で最も手に負えない紛争」とも呼ばれるイスラエルとパレスチナの紛争(パレスチナ問題)の一環として、2021年5月に東エルサレムのパレスチナ人追放運動や、ガザ地区への攻撃などが行われました。この紛争が起きた際、パレスチナに好意的なコンテンツがInstagram上で検閲されたことに対してFacebookの従業員から不満が漏れたことから、同サービスのアルゴリズムが変更されることとなっています。

Instagram making changes to its algorithm after it was accused of censoring pro-Palestinian content - The Verge
https://www.theverge.com/2021/5/30/22460946/instagram-making-changes-algorithm-censoring-pro-palestinian-content

Facebookが所有する写真共有SNSのInstagramは、自動モデレーション機能を搭載しています。この自動モデレーション機能により検閲された一部のコンテンツ(アルアクサモスクに関する投稿など)が削除されたことに対して、Facebook社内からは抗議の声が上がっていました。抗議した従業員たちは検閲が意図的なものであるとは考えていなかったそうですが、「この種の検閲が行われることで、社会から取り残されたグループに対してバイアスがかかる」と考え、自動モデレーション機能の改善を求めます。

海外メディアのThe VergeがFacebookに問い合わせたところ、同社は従業員の抗議に応じる形でInstagramの自動モデレーション機能のアルゴリズムを変更したことを明らかにしました。さらに、ユーザーが最も関心を抱いているであろうこれまで検閲されてきた投稿を正しく表示するように修正したとも発表しています。

パレスチナ問題に関するコンテンツをどのように扱うかについて、TwitterやFacebook、InstagramといったSNSはさまざまな批判を受けています。2021年5月初頭にはTwitterがパレスチナ人作家のアカウントを制限しましたが、後にその措置は「誤って行われたもの」として同社は謝罪しています。

また、Instagramは「イスラエル軍による住民や活動家への攻撃」に関するコンテンツを検閲していたとしても非難されました。この批判に対して、InstagramのAdam Mosseri氏は「世界中の何百万人もの人々のストーリーやハイライト、アーカイブに影響を与える技術的なバグが発生しました」とツイートし、バグにより一部のコンテンツが「誤って検閲されてしまった」と主張しています。

なお、Instagramの広報担当者はThe Vergeに対して、「親しい友人の投稿したオリジナルの投稿に対して多くのユーザーが興味を寄せていることから、よりオリジナルとの投稿を優先するように自動モデレーション機能のアルゴリズムを変更しました」と述べています。加えて、Instagramの広報担当者は、「新しいツールを導入してオリジナルの投稿にユーザーを集中させるような方法を検討している」と語ったそうです。