Twitterが「人種差別をなくすため自動トリミングをやめる」と発表

Twitterが2021年5月19日に、画像を自動でトリミングする機能にわずかながら「白人を優先的に中心に収める」という傾向があったとの調査結果を発表しました。これを受けて同社は、自動トリミング機能のアルゴリズムを段階的に廃止し、トリミングに関する判断をユーザーに委ねる方針を固めました。

Image Cropping on Twitter: Fairness Metrics, their Limitations, and theImportance of Representation, Design, and Agency
(PDFファイル)https://arxiv.org/pdf/2105.08667.pdf

Sharing learnings about our image cropping algorithm
https://blog.twitter.com/engineering/en_us/topics/insights/2021/sharing-learnings-about-our-image-cropping-algorithm.html

Twitter says its image crops weren’t very biased, but is phasing them out anyhow - The Verge
https://www.theverge.com/2021/5/19/22444372/twitter-image-crop-racial-gender-bias-research

Twitterは2018年に、AI技術による画像の自動トリミングの最適化を導入しました。このアルゴリズムが、どのようなプロセスでトリミングの範囲を判断をしているのかは、以下の記事を読むとよく分かります。

TwitterがAI技術による画像の自動トリミングの最適化を導入 - GIGAZINE

アルゴリズムの導入により、画像に人物が映っている場合はなるべくその人物を中心に収めてトリミングされるよう改善されましたが、一部のユーザーからは「トリミングの対象に人種や性別の偏りがあるのではないか」と疑問を呈する声が上がっていました。

そこで、Twitterがアルゴリズムに人種的な偏りがあるのかを検証したところ、アルゴリズムは7％の割合で黒人女性より白人女性の顔を優先し、2％の割合で黒人男性より白人男性の顔を優先する傾向があることが判明。全体として、アルゴリズムが白人を優先する割合は4％でした。

なお、性別間の偏りを調べたところ、8％の割合で男性より女性を優先する傾向があることが分かりましたが、「顔より胸部や脚部を優先する」といった傾向はなかったとのことです。

この調査結果を受けて、TwitterのソフトウェアエンジニアリングディレクターであるRumman Chowdhury氏は「自動切り抜き機能のスピードと、今回の調査結果から判明した潜在的な人種差別リスクのトレードオフを検証しました。その結果、画像をどのように切り取るかは人が判断するのが最善との結論に達しました」と発表しました。

今回の発表に先駆けて、Twitterは2021年5月上旬に、タイムライン上の画像がトリミングされないようアプリに変更を加えましたが、これには「画像をなるべく大きく表示してアルゴリズムによる自動切り抜きの影響を最小限にする」という狙いがありました。なお、トリミングが必要な場合はプレビューを表示して切り取る範囲の判断をユーザーに委ねるようにしたとのことです。