「性的すぎる」としてタマネギの写真がFacebookから警告を受けてしまう

植物の種を販売する企業が、シーズンに向けてタマネギの種の広告をFacebookに掲載しようとしたところ、広告内で使用した画像が「あからさまに性的である」と判断されてしまい、広告の掲載中止を余儀なくされました。一体なぜタマネギの画像が性的であると判断されてしまったのか、広告の申請を担当したマネージャーが語っています。

This St. John's seed company's onions are too sexy for Facebook | CBC News
https://www.cbc.ca/news/canada/newfoundland-labrador/onions-too-sexy-for-facebook-1.5750881

‘Overtly sexualized’: St. John’s company’s onions (yes, onions) flagged by Facebook’s nudity algorithm | Simcoe Reformer
https://www.simcoereformer.ca/news/overtly-sexualized-st-johns-companys-onions-yes-onions-flagged-by-facebooks-nudity-algorithm/wcm/65927083-1a26-4641-887e-1702950dffe6

野菜や花の種子を販売するThe Seed Companyのマネージャー、ジャクソン・マクリーン氏によると、Facebookでタマネギの一種、ワラワラ・スイート・オニオンの広告を掲載しようとしたところ、広告に含まれるタマネギの画像がFacebookの広告ガイドラインに違反していたため、商品の宣伝ができなかったとのこと。

以下の画像が、The Seed Companyがワラワラ・スイート・オニオンの広告用画像として用意したもの。かごに盛られたタマネギと半分にカットされたタマネギが写っており、まったく問題はなさそうに見えます。

ところが、The Seed Companyは広告に関してFacebookから以下のようなメッセージを受信。メッセージには「あからさまに性的な商品です。性的な内容を示唆する方法で商品やサービスを配置してはいけません」と書いてありました。

「私たちが用意した画像は『あからさまに性的な画像である』と判断されたため、Facebookへの広告掲載を中止しなければなりませんでした。タマネギの丸い形が、おっぱいか何かのように誤解されたのかもしれません。笑うしかなかったです。人間がこのタマネギを見て何か性的なものを感じ取るには、かなりの想像力が必要になるでしょう」とマクリーン氏は語っています。

また、タマネギの画像に対してFacebookが「性的である」と判定してしまった理由は、おそらくAIの自動チェックによる可能性が高いとマクリーン氏は推測しています。FacebookはAIを使ったコンテンツの自動チェックシステムを導入しており、2020年4月から2020年6月までの間にFacebook上で性的な内容を含む有害コンテンツ約3570万件が削除されました。AIによるコンテンツの自動チェック技術は発展途上であり、過去にはTumblrによるAIの画像チェック基準が曖昧すぎると多くの非難を浴びています。

成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ - GIGAZINE

by Julian King

The Seed CompanyはFacebookの「あからさまに性的」という警告に対して異議を唱えていますが、記事作成時点ではFacebookからの返答は得られていないとのこと。「うまくいけばFacebookの従業員が実際の写真を見て、タマネギが性的なものではないと判断してくれるでしょう。ただのタマネギですから」とマクリーン氏はコメントしています。