Facebookが黒人男性の動画を「霊長類」とタグ付けし謝罪

動画の内容を識別して類似した動画を視聴者に勧めるAIが、黒人男性の動画を「霊長類」と識別していたとして、Facebookが2021年9月3日に謝罪声明を発表しました。Facebookは再発防止ができるまで、問題のAIを用いた動画のリコメンド機能を無効にするとしています。

Facebook Apologizes After A.I. Puts ‘Primates’ Label on Video of Black Men - The New York Times
https://www.nytimes.com/2021/09/03/technology/facebook-ai-race-primates.html

Facebook says its AI mislabeling a video of Black men as “primates” was “unacceptable” - The Verge
https://www.theverge.com/2021/9/4/22657026/facebook-mislabeling-video-black-men-primates-algorithm

ユーザーに便利な機能を提供するため、多くの企業がコンテンツを自動で判別するAIの開発や導入を積極的に進めていますが、AIの中には人種差別的な判断をしたとして非難されるものもあります。例えば、Googleのフォトアプリが黒人の男女の写真に「ゴリラ」というタグをつけたことで同社が謝罪をしたことがあるほか、モザイク画像を鮮明にするAIがバラク・オバマ元大統領の顔写真を白人男性の顔に復元してしまったことで大きな論争が発生したこともあります。

Google Photosが黒人をゴリラと認識した事件で開発者が謝罪 - GIGAZINE

こうした事例に続き、Facebookの動画識別用のAIが黒人男性のムービーに誤って「霊長類」とのタグを付けていたことが、新たに分かりました。この問題は、Facebookの元従業員であるDarci Groves氏がTwitterで「このKeep seeing(視聴を続ける)という表示は受け入れられませんよ、Facebook。この動画は1年以上も前のものなのに、私の友人は昨日この表示を見つけました」と報告したことで発覚しました。Groves氏が投稿した画像を見ると、黒人男性が映っている動画の下部に「霊長類に関する動画の視聴を続けますか？」と表示されているのが分かります。

海外ニュースメディアのThe New York Timesによると、問題の動画はイギリスのニュースメディア・Daily Mailが2020年6月27日にFacebookにアップロードしていたもので、黒人男性が警察官や白人の一般市民らと口論している様子を収めたものだとのこと。


Facebookの広報担当者はIT系ニュースサイトのThe Vergeに対し、「これは明らかに容認しがたいエラーです。これまで当社はAIの改善を進めてきましたが、完璧ではありませんでした。このような不快な動画の推奨をご覧になった方におわびを申し上げます」と述べて、謝意を表明しました。The Vergeによると、Facebookは問題が解決するまで類似の動画を視聴者に勧める機能を無効にしたとのことです。