TikTokのアルゴリズムがヘイトスピーチを拡散しているとシンクタンクが指摘

ホロコーストを否定するなど特定のプロパガンダを拡散する数百のアカウントがTikTokにはびこり、合計で数千万回閲覧されているため、TikTokにはヘイトスピーチの拡散に対処する能力がない可能性があるとして、シンクタンクの戦略対話研究所が問題視しました。

NazTok: An organized neo-Nazi TikTok network is getting millions of views - ISD
https://www.isdglobal.org/digital_dispatches/naztok-an-organized-neo-nazi-tiktok-network-is-getting-millions-of-views/

戦略対話研究所によると、ナチズムの賛美や白人至上主義者による銃乱射事件の礼賛などを行うアカウントがTikTokに多数存在し、合計数千万回閲覧され、別のユーザーからの通報を受けてもなお存在し続けているそうです。

コンテンツの中には、特定の音楽や動画を使って多くの人々の注意を引くものや、検閲されそうな単語を絵文字に置き換えてアカウント凍結を免れようとするものもあったと戦略対話研究所は報告しました。

戦略対話研究所は、こうしたコンテンツの拡散の裏には、特定の意図をもってプロパガンダを拡散しようとする組織があると見ています。戦略対話研究所が調査したある組織は、「TikTokはX(旧Twitter)やBitChute(動画共有サービス)よりも多くの視聴者を獲得できる」と話題にしていて、TikTokを自らにとって使いやすいプラットフォームだと認識している節があるそうです。

戦略対話研究所は、「TikTokは問題のあるアカウントやコンテンツを個別に削除しているようですが、こうしたアカウントは似たもの同士でお互いにフォローし合ってネットワークを形成しているため、1個を消してもまた別のものが浮上します。TikTokは、親ナチスのヘイトスピーチやプロパガンダを推進するアカウントを適切かつ迅速に削除できていません」と述べ、TikTokのアルゴリズムや検閲システムに問題があると言及しました。

テクノロジーを使ったテロに対抗する機関であるGlobal Network on Extremism and Technologyによると、TikTokだけでなく、Steamのような若者が集うプラットフォームに過激派が手を伸ばしているため、今後はあらゆるプラットフォームで適切なモデレーションが必要になってくるとのことです。