動画共有アプリ「TikTok」が障がいを持つ人やレズビアン・ゲイによる投稿のリーチを制限していた

by Nathan Anderson

ムービー共有アプリの「TikTok」が何らかの障がいを持った人やクィア、太った人々などによるムービーのリーチを制限していたことが判明しました。

Discrimination - TikTok curbed reach for people with disabilities
https://netzpolitik.org/2019/discrimination-tiktok-curbed-reach-for-people-with-disabilities/

ドイツのニュースメディアであるnetzpolitik.orgが明らかにした内容によると、TikTokは自閉症の人や障がいを持つ人、太った人、クィアといった人々を、「デフォルトのままではいじめのリスクがある」と判断して、コンテンツの内容に関係なく、リーチを制限する「特別ユーザー」のリストに入れていたとのこと。

netzpolitik.orgは関係者からTikTokのモデレーターが使用していた「モデレーション・ガイドライン」を入手しており、ガイドラインの中には「オンライン上のいじめを受けやすい被写体を映した画像」についての定めがあったそうです。この説明文には、ガイドラインの対象が「身体的・精神的な状態によりオンライン上のいじめの影響を受けやすいユーザー」であることが示されていたとnetzpolitik.orgは記しています。

TikTokは「モデレーションツールボックス」を用いて、このようなユーザ－の可視性を制限しました。モデレーターは、障がいがある人々を「リスク4」としてマークし、コンテンツの公開がアップロードされた国に制限されるよう操作したとのこと。

by Amanda Vick

また、TikTokは「特にいじめにさらされやすい」と判断されたユーザーにさらなる制限を加えていました。このカテゴリに該当したユーザーがアップロードしたムービーは、6000～1万回再生された後に、ベルリン・北京・バルセロナに所在するモデレーションチームに通知され、自動的に「Auto R」としてタグ付けされます。これはつまり、一定回数以上再生されると「推奨されない」カテゴリに分けられ、ユーザー別のオススメリスト「For You」フィードの対象から除かれるということを意味します。ダンスやパフォーマンスをアップロードするユーザーにとって、「For You」フィードに選ばれることは有名になり、より大きな舞台に立つためのチャンスです。Auto Rとしてタグ付けされたムービーは削除されるわけではありませんが、極端に人目に触れる機会が少なくなるため、チャンスを奪われることになります。

以下がそのガイドライン。対象ユーザーの例として、「顔面を損なっている」「自閉症」「ダウン症」「障がいを持った人々あるいはあざ・斜視を顔面に持った人」などが記されています。

しかし、わずか15秒のTikTokのムービーから、ユーザーが自閉症かどうかを判断することはできないはず。実際のところ、このガイドラインはモデレーターたちにとっても混乱の元だったようです。

情報筋によると、スタッフはガイドラインの問題点について繰り返し指摘したとのことですが、その指摘はTikTokの開発元である中国の意志決定者によって却下されてしまいました。TikTokはドイツやアメリカを始めとする国で市場の拡大を狙っており、自分の体を肯定的に受け止める「#bodypositivity」というハッシュタグキャンペーンを行うほか、「多様性や安全性に対するメッセージを送り、いじめやヘイトスピーチに対抗しよう」と呼びかけを行っていましたが、このような試みを行っている最中にも「いじめの危険性がある人々のリーチを制限する」というモデレーションを実施していたと情報筋は述べています。

しかし、上記のようなアプローチが理想的なものではないということは、既にTikTokは認識しており、2019年12月時点でルールは改定されています。TikTokの広報担当はnetzpolitik.orgに対し、「このアプローチは長期的な解決策として意図されたものではなく、また我々の意図が善に基づくものであっても、正しいアプローチではなかったのだと気づきました」とコメントしており、2019年12月時点では「いじめを識別する」ための別のアプローチを取るべく、新たな技術開発が行われているそうです。

TikTokが「特別なユーザー」と分類したアカウントには、「#disability」(障がい)というタグや「Autist」(自閉症患者)という言葉がプロフィールに記載されたユーザーのほか、太っていたり、レインボーフラッグをプロフィールに数多く使用したりしているアカウント、自分自身を「レズビアン」「ゲイ」「Xジェンダー」と称しているアカウントが含まれます。実際に「miss_anni21」というアカウントを持つ21歳のアニカさんは、このリストに含まれていたとのこと。アニカさんは幼稚園の先生として働きつつ、TikTokに数々のダンスムービーをアップロードする女性ですが、太めの体型であることは自覚しつつもそれをネガティブには捉えていません。

2018年にアニカさんのダンスムービーは急激に再生されるようになり、フォロワー数は800人から1万人にまで急増。2019年にはフォロワー数が2万2000人にまで増えています。アニカさんが注目を集めると批判的なユーザーからの指摘が2～3カ月続いたそうですが、「私は気にしないタイプの人間です」「批判は新しいオーディエンスによるもので、フォロワーは自分をロールモデルとして見てくれています」とポジティブにコメントしています。

障がいを持つ人々を支援する機関「Evangelische Stiftung Hephata」のManuela Hannen氏とChristoph Krachten氏は、TikTokが用いていたガイドラインやモデレーションについて、「私たちはこれを根拠のない検閲だと考えています。ネットでいじめを行う側を罰するのではなく、いじめの被害者を罰することは、全くばかげています」と意見を表明。また人権活動家のRaul Krauthausen氏は「支援の必要な被害者を守ることは常に困難です。障がいを持つ人々はみんな同じではありません。対処が上手な人がいれば、そうではない人もいます。障がいを持たない人と同様に」と述べました。