Tumblrが一見無害な「提出」「悲しい」といったタグをブラックリストに入れた理由とは？

ブログサービスのTumblrが「App Storeのガイドラインに準拠する」ことを理由に、「submission(提出する)」「girl(少女)」「sad(悲しい)」「suicide prevention(自殺予防)」「testicular cancer(精巣腫瘍)」といった一見すると無害なタグを、ブラックリストにいれたことが判明しました。該当タグを含むコンテンツの表示が制限されるようになりますが、この理由について、元TumblrのiOSソフトウェアエンジニアが自身の経験から推察しています。

sreegs — alright let's talk about Apple and Tumblr's...
https://sreegs.tumblr.com/post/671649355334336512/alright-lets-talk-about-apple-and-tumblrs

App Store review process 'perplexing, random, asinine' - 9to5Mac
https://9to5mac.com/2021/12/28/app-store-review-process-problems/

Tumblr goes overboard censoring tags on iOS to comply with Apple’s guidelines - The Verge
https://www.theverge.com/2021/12/28/22856734/tumblr-censor-tags-ios-apple-guidelines

Tumblrは、2007年にサービスを開始し、2017年にYahoo!に買収されたことでベライゾン・コミュニケーションズ傘下に入りました。しかし、2018年にアダルトコンテンツが全面的に禁止されたことでアクセス数が激減し業績不振に。ベライゾン・コミュニケーションズが売却先を探していたところ、2019年にWordPressを運営するAutomatticによって買収されました。

成年向けコンテンツを全面禁止したTumblrへのユーザー訪問数が1億5000万減ったことが判明 - GIGAZINE

そんなTumblrが、2021年12月21日に「Appleの厳格な安全ガイドラインに準拠するために、今回のiOSアップデートから特定の種類のデリケートなコンテンツの推奨や検索用語に違いが見られるようになる」と発表しました。具体的に言うとこれは一部のタグがブラックリストに指定されたということで、ユーザーのコンテンツ検索や、ユーザーに表示される「Stuff for You」セクション、「Following」セクションに影響を与える内容となっています。

Tumblrにおいて、タグはユーザーが投稿を検索する際に利用されるもの。新たなiOSアップデートにより、検閲対象のタグが付いた投稿はユーザーのダッシュボードや検索ページに表示されなくなりました。この件で問題視されているのは、検閲対象となったタグのリストの中に「submission(提出する)」という一見無害な単語が含まれていることです。submissionには「提出」のほかに「降伏」や「服従」といった意味もあり、このタグを使用したSMプレイの一種「BDSM」のコンテンツがTumblrには大量に投稿されているとのこと。つまり、submissionという一見無害な単語は、Tumblrからアダルトコンテンツを一掃する動きの巻き添えになったわけです。

bannedtagsという名前のTumblrユーザーはGoogleドキュメントでブロックされたタグを記録しており、submissionの他に「girl(少女)」「sad(悲しい)」「Alec Lightwood(ドラマ『シャドウハンター』のキャラクター)」「single dad(シングルの父親)」「single mom(シングルの母親)」「suicide prevention(自殺予防)」「testicular cancer(精巣腫瘍)」といった言葉が含まれます。これらのタグは、支援を必要とする人々にとって有害だと考えられていることから禁止されたとみられています。

不可解にも思える上記の対応について、問題の根本をTumblrの元iOSソフトウェアエンジニアが指摘。このエンジニアがsreegsというTumblrブログで語った内容によると、Tumblrが上記のような対応を取らざるを得なかった原因は、App Storeのレビュープロセスにあると考えられるとのこと。

AppleはアプリをApp Storeに登録する上で、自動および手動のレビュープロセスを行っています。このレビュープロセスは、主にアプリが以下2つの要件を満たしているかを調べるもの。

(1)マルウェアではない、機能しているプログラムかどうか
(2)プログラムがApp Storeのレビューガイドラインを満たしているかどうか

レビューでは「アプリにポルノがあるかどうか」も調べられ、ポルノに該当するものが存在すると、開発者側に削除が要求されます。そしてポルノの有無についてのレビューは人間の手によって行われるので、レビュアーの恣意(しい)的な判断に依存することになり、時にはポルノに該当しないものの削除が要求されることも。また、Tumblrのようなユーザー生成コンテンツがメインであるアプリの場合、ポルノと直接的に関連するタグを禁じても、ポルノコンテンツを排除できないケースがあります。このような背景から、Tumblrは一見無害に見えるタグについてもブラックリストに入れざるを得なかったわけです。InstagramやTwitterといった規模の大きなアプリであればApple側との対応やモデレーションのために専用の機関を設けることができますが、予算が多くないアプリの場合、専門のモデレーション機関を準備することができないのも理由です。

このようなApp Storeのレビュープロセスに不満を抱えている開発者はTumblr以外にも存在するとのこと。App Storeにおける30％の手数料をめぐったAppleとEpic Gamesの訴訟でApple側の意見に賛同していたiOS開発者であっても「AppleはApp Storeの管理の手を少し緩めるべき」と述べていたと、Tumblrの元開発者はつづっています。