TikTokはどうやって投稿される無数のコンテンツを検閲してきたのか？

日本でも人気の高いショートビデオソーシャルメディアの「TikTok」は、中国の北京に本拠地を置くByteDanceという企業が開発・運営しているスマートフォン向けアプリです。そんなTikTokは、投稿される無数のコンテンツをどのようなルールで検閲してきたのかを、イギリスの大手一般新聞であるThe Guardianが報じています。

Revealed: how TikTok censors videos that do not please Beijing | Technology | The Guardian
https://www.theguardian.com/technology/2019/sep/25/revealed-how-tiktok-censors-videos-that-do-not-please-beijing

The GuardianはTikTok内のコンテンツを検閲するモデレーターに配布されるモデレーションガイドラインの詳細を独自に入手しました。

ガイドラインでは禁止されているコンテンツが2つのカテゴリに分類されています。1つはサイトのガイドラインに「違反」したものとして、投稿がサイト上から完全に削除され、投稿したユーザーもアカウントを削除される可能性があります。もう1つのカテゴリに分類された場合、コンテンツはそのままサービス上に残るものの、TikTokのアルゴリズムによりコンテンツがキュレートされ、ユーザーの目に付きづらくなるそうです。

by Aaron Yoo

中国関連のモデレーションガイドラインの大部分は「差別的発言と宗教」を規定するセクションに含まれており、ここには「政策に対する批判もしくは攻撃、つまり、憲法上の君主制や議会制度、権力の分離、社会主義システムなどの中国におけるルールを批判する行為」が検閲の対象になると記されている模様。

さらに、1998年5月にインドネシアで起きたジャカルタ暴動や、ポルポト政権によるカンボジア大虐殺、六四天安門事件など、地元または他国の歴史上における歪みを禁止コンテンツとする旨が記されています。

これらに加え、より一般的なルールとして「分離主義、宗教派の対立、民族グループ間の対立、たとえばイスラム派の対立を誇張したり、北アイルランド、チェチェン共和国、チベット、台湾の独立を扇動し、民族を誇張したりするようなコンテンツ」も禁止されているとのこと。

これらの3つのガイドラインに抵触するコンテンツは削除されるわけではなく、ユーザーの目につきにくくなるようキュレートされます。しかし、例えば法輪功に関する投稿はガイドラインに違反したものとして削除される模様。その理由は法輪功が「自殺を宣伝するグループ」に分類されているためです。

by Gian Cescon

他にも、TikTokには「未成年者のポルノ」をブロックするためのルールが存在しており、未成年ユーザーを「1歳未満の幼児」「1～8歳の子ども」「青年期の若者」「18歳未満の未成年」という4つのカテゴリに分類するそうです。ただし、ユーザーが18歳未満かどうか不明の場合、ガイドラインではモデレーターに「対象を大人として扱うように」と明示的に推奨されています。

なお、ネット検閲の対象には金正日、金正恩、金日成、マハトマ・ガンジー、ウラジミール・プーチン、ドナルド・トランプ、バラク・オバマ、安倍晋三、習近平、朴槿恵、ジョコ・ウィドド、ナレンドラ・モディといった政治家の名前は含まれていない模様。

The Guardianが独自に入手した検閲に関するガイドラインは香港でのデモが起きる前の2019年5月に廃止されたものだとBytedanceは主張。Bytedanceは「TikTokのサービス開始当初はプラットフォーム上の紛争を最小限に抑えるために、鋭いアプローチを取っていました。また、モデレーションガイドラインでは、宗教や民族グループなど、紛争を促進する可能性のあるコンテンツに対して罰則を与えていました。2018年にTikTokが世界的に流行してからは、このガイドラインは正しいアプローチではないと感じ、各市場ごとの微妙な違いを理解しているローカルチームを支援するための取り組みをスタートし、よりローカライズされたアプローチを取るようになっています」と述べ、The Guardianが入手したガイドラインは、過去に使われていたもので現在は利用されていないと主張しています。