成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ

by Julian King

アダルトコンテンツの投稿禁止を新ガイドラインに設けたミニブログサービス・Tumblrが、独自の人工知能(AI)を利用してTumblr上に投稿された画像の中からアダルトコンテンツに相当するものを自動で選別し、警告を送り出しています。しかし、このアルゴリズムの判定があまりにもお粗末なために、健全な画像もポルノ判定を下されまくっていると話題になっていて、Twitterでは次々と報告があがっています。

Tumblr’s porn ban is going about as badly as expected | Ars Technica
https://arstechnica.com/gaming/2018/12/tumblrs-porn-ban-is-going-about-as-badly-as-expected/

Tumblrは2018年12月17日から、ユーザーの年齢にかかわらずアダルトコンテンツの投稿を完全に禁止することを発表しました。これはTumblr上に児童ポルノ画像が含まれていたことを理由に、2018年11月末にAppleのApp Store上から専用アプリが削除されたことがきっかけだといわれています。

Tumblrがアダルトコンテンツの禁止を発表 - GIGAZINE

ただし、この時にTumblrが発表した新ガイドラインにおける定義があいまいだとして、ユーザーからは不満の声もあがっていました。

一方、Tumblrは本格的にアダルトコンテンツの一掃を考えているようで、Tumblr上に投稿された画像を自動でチェックし、違反コンテンツと判断すると警告を送るAIを導入しました。しかし、このAIによる判定精度があまりにも低く、全く性的ではない画像にも警告を送りまくってしまい、Tumblrユーザーは大混乱。なぜかアダルトコンテンツと見なされてしまった「なんでもない画像」がTwitterで次々と報告されています。

女の子のポーズこそセクシーなものの、どうみても健全な画像ですが、Tumblrから違反警告を受けてしまったとのこと。

事務員による後輩への気遣いを描いた暖かい画像もなぜか違反警告の対象。

「Tumblrやっちまったな。言葉も出ないよ。ジブリに警告を出すなんて」

「この子はかぎ針で編んだロウソクのケヴィンです。Tumblrだとケヴィンは違反扱いになります。おわかりだとは思いますが、なぜならケヴィンはどう見てもアダルトコンテンツだからです」

おじさんが2人並んで涼を取っているだけの画像も「Tumblrには刺激的すぎた」ようです。

「アトランタの生水は飲むには危険だし、私がデジタルで描いた洞窟の絵はTumblrには刺激的過ぎて取り扱えない」と、単なる洞窟の絵までアダルト判定を受けてしまいました。

なんでもない食べ物の画像も、アルゴリズムにはポルノコンテンツに見えてしまった様子。

沖縄名物サーターアンダーギーも違反警告を受けてしまったとのこと。Tumblrのアルゴリズムは、丸く香ばしく揚がったサーターアンダーギーのどの部分を見てアダルトコンテンツの判定を下したのでしょうか。

「何かの画像が警告されているというから、2年ぶりにTumblrにアクセスしたら引っかかってたのはこれだった」とのことですが、この画像がそもそもどういう状況なのかがめちゃくちゃ気になります。

「よくやった、Tumblr！危険なアダルトコンテンツを見事捕捉しているぜ！」という画像はクリームたっぷりのキャンディーのCMでした。

また、「ポケットモンスター」のリザードンはどんな画像でもかなりの確率でアダルトコンテンツ判定を受けてしまう模様。

「Tumblrはリザードンが嫌いなんだ！彼らはリザードンをめちゃくちゃ憎んでる」

「すいません、リザードンはTumblrからBANされているんですよ」

大量の画像で違反警告が出されていることに腹を立てたあるユーザーは「おい、スタッフ！俺のところに来て、この画像のどこが違反しているのか説明しろ！」という怒りのメッセージをTumblrに投稿したところ、そのメッセージが違反報告を受けてしまったようです。

判定アルゴリズムでは、アダルトコンテンツとセクシュアリティに関する議論は区別されません。そのため、セクシャルマイノリティに属するユーザーの中には「LGBTコンテンツが不平等にアルゴリズムの標的になっているのでは」と疑念の声をあげる人もいました。

Tumblr公式スタッフブログによるアダルトコンテンツ禁止を告知するポストも違反しているとして警告を送られている始末。結果として自分で自分を警告するというオチまでついたこの騒動について、Tumblrは記事作成時点ではコメントを発表していません。

なお、問題ないはずの画像に違反警告が送られてきた場合、異議を申請すれば撤回してもらえるとのことでした。