SNSで特定の単語を規制することの何が問題なのか？

YouTubeやTwitchなどの動画投稿・配信サービスや、InstagramやTikTokなどのSNSにはどれも「不適切な単語の投稿を禁止するポリシー」が設けられています。「不適切」と見なされる単語は暴力行為や性行為、犯罪行為を示唆するものなどさまざまですが、こういった単語を公にさらすと処罰が下ることも。このようなポリシーを回避するべく、人々は「単語を別の言葉で言い換える」という試みに励んでいます。

'Algospeak' is changing our language in real time - The Washington Post
https://www.washingtonpost.com/technology/2022/04/08/algospeak-tiktok-le-dollar-bean/

ユーザーはコンテンツモデレーションシステムによって投稿が自動で検知されることを防ぐため、数多くの単語の言い換えを行っています。例えば英語圏では「dead(死)」の代わりに「unalive(生きていない)」、「Sexual Assault(性暴力)」の代わりに「SA」といったものが使われているとのこと。言葉を別の言葉に言い換えるだけでなく、絵文字に置き換える例も見られます。例えばセックスワーカーたちは「ポルノ」という言葉の代わりにトウモロコシの絵文字を使用していたり、人々がロシア-ウクライナ問題を語る時にウクライナをひまわりの絵文字で表していたりと、さまざまなパターンが存在します。

このような言い換えは政治的性質を寓話に織り込んだイソップ物語になぞらえ「Aesopian language(イソップ言語)」などと呼ばれています。日本語においてこの種の言い換えは「隠語」の1種として知られ、SNSに限らず広く使用されています。

海外紙のワシントン・ポストによると、新型コロナウイルス感染症(COVID-19)のパンデミックにより多くの人々がオンラインでコミュニケーションを取るにつれ、アルゴリズムによる言語の検出を防ぐイソップ言語が数多く使われるようになっていったとのこと。イソップ言語は有害なコミュニティだけで使われるのではなく、メンタルヘルスの問題を他者に相談したいと考える人々が、本来であれば検閲される「自殺」というトピックについて話したり、セックスワーカーらが自らの仕事について話し合ったりする場合にも用いられます。

有害なコンテンツをプラットフォームから排除するために用いられるこれらのポリシーですが、有害な意図を含めずにコンテンツについて話したい人々にとって、むしろポリシーが有害となってしまうこともしばしば。LGBTQのクリエイターは「ゲイ」という言葉を使用するとYouTubeで収益化を行えないためにあえて言い換えを行っていると話し、臍帯血(さいたいけつ)バンクを提供する新興企業は、妊娠や月経周期、性器についての言葉を言い換えていると話しています。

デジタル著作権について取り組む非営利団体Fight for the Futureのエヴァン・グリア氏は「プラットフォーム上で特定の単語を消そうとするのはバカげた行為です。人々はそのようなシステムを回避することに優れていますし、なにより関係のない人が巻き添えの被害を受けているからです」と話します。企業のモデレーションに対しては複数の専門家がその透明性を高め、より良いプラットフォーム作りを心掛けるよう求めています。