開発途上国をターゲットにした「TikTok Lite」はAI生成コンテンツや誤情報のラベルがなく安全対策が通常版より劣っている

大手テクノロジー企業は先進国を中心に展開する通常版アプリだけでなく、アプリサイズが小さく必要なデバイス性能も低い軽量版アプリを、開発途上国向けにリリースすることがあります。TikTokを運営するByteDanceも軽量版TikTokである「TikTok Lite」を展開していますが、Mozillaなどの調査でTikTok Liteには通常版に存在するユーザー保護機能がいくつか欠如しており、ユーザーが危険にさらされていることが判明しました。

Light on Safety - Mozilla Foundation
https://foundation.mozilla.org/en/campaigns/light-on-safety/

Study: TikTok Lite is a 'safety hazard' for millions of users around the world | ZDNET
https://www.zdnet.com/article/study-tiktok-lite-is-a-safety-hazard-for-millions-of-users-around-the-world/

国際的な地位を確立したいテクノロジープラットフォームにとって、アメリカやヨーロッパを中心とした先進諸国だけでなく、南米・アジア・アフリカの開発途上国のユーザーベースを獲得することは重要です。しかし、開発途上国のユーザーは経済的な理由から最先端のデバイスを持つことができず、性能が劣る廉価品や中古品を使っていることが多いほか、インターネット環境も不十分なことが多々あります。そのため、先進国での使用を想定したものをそのまま展開しても、快適に使えないためユーザー獲得に苦戦することがあります。

そこでいくつかのテクノロジー企業は、軽量版アプリを開発途上国向けにリリースすることでユーザーベースを獲得する戦略をとっています。ByteDanceもこの戦略を採用しており、発展途上国で展開するTikTok Liteは通常版のTikTokと比較してアプリサイズが小さく、バッテリーの使用量も少なく、データ消費量も低く抑えられています。2018年にタイで初めて展開されたTikTok Liteは、Google Playストアで約10億回もダウンロードされており、TikTokのユーザーベースの半数近くを占めていると推定されるとのこと。

なお、日本でも「TikTok Lite」という名称のアプリがリリースされていますが、これは開発途上国でリリースされているものとは異なるアプリだとのこと。今回Mozillaなどのチームは、日本で展開されているTikTok Liteではなく、開発途上国向けにリリースされている「TikTok Lite - Save Data」について調査を行いました。

研究チームは通常版TikTokに搭載されている「ラベル付け」や「ユーザーコントロール」といった安全機能が、ケニア・ウガンダ・南アフリカ・チリでリリースされたバージョンのTikTok Liteにも搭載されているのかどうかを調べました。なお、レポートの調査結果は2024年7月19日(金)時点のものとなっています。調査の結果、通常版TikTokに搭載されている多くの安全機能が、開発途上国向けにリリースされたTikTok Liteには存在しないことがわかりました。具体的には、以下のような機能がTikTok Liteには欠如していたとのこと。

・危険行為のラベル付け
TikTokでは「失神チャレンジ」「頭蓋骨粉砕チャレンジ」といった危険なチャレンジがたびたび流行しており、そのたびに世間からの非難や規制機関による精査に直面してきました。そのため、通常版のTikTokではユーザーに危険を及ぼす可能性がある動画に「危険な行為のラベル」を付けて、ユーザーに警告を発しています。

ところが、軽量版のTikTokにはこの「危険行為についてのラベル付け」がないとのこと。以下の画像を見ると、通常版のTikTok(左)にある警告ラベルが、TikTok Lite(右)にはないことがわかります。

・センシティブなコンテンツのオプトイン画面
TikTokのガイドラインでは、不意に視聴するとショックや動揺を与えかねない衝撃的なコンテンツに対し、オプトイン画面や警告情報を適用しています。しかし、通常版のTikTok(左)で適用されているオプトイン画面が、同じ動画をTikTok Liteで視聴した際には確認できないとのことです。

・誤情報のラベル付けや情報源のバナー
TikTokはその他のオンラインプラットフォームと同様に、主に健康や政治に関する誤情報の取り扱いで注目を浴びています。これに対処するため、通常版TikTokでは選挙やパンデミックといったデリケートなトピックを扱った動画でラベル付けを行い、信頼できる情報源へのリンクを貼るなどの安全機能が搭載されています。しかし、この機能もTikTok Liteにはなかったり、不十分だったりするとMozillaは指摘しています。

・AI生成コンテンツのラベル付け
生成AIは選挙や災害といった重要なタイミングでユーザーを誤解させ、誤情報の拡散を促進してしまうリスクをもたらします。TikTokも生成AIに内在するリスクについて認識しており、クリエイターに対して生成AIを利用したコンテンツにラベルを付けるように促しています。しかし、生成AIコンテンツへのラベル付けもTikTok Liteでは確認できないとのことです。

・説明テキストの省略
TikTokに投稿される動画には概要欄があり、動画のクリエイターは文脈についての補足やハッシュタグ、ユーザーへのメッセージなどを説明することができます。しかし、TikTok Liteでは表示されるテキストが勝手に短くなっており、クリエイターが制御できないとのことです。

・ユーザーコントロールの欠如
通常版TikTokでは、ユーザーが「悪質なコメントのフィルタリング」「一部の視聴者に適さない可能性がある動画を表示しないコンテンツ設定」「スクリーンタイムの管理」などを制御し、より安全にTikTokを利用することが可能です。しかし、TikTok Liteにはこれらのユーザーコントロールがないため、ユーザーが危険にさらされる可能性があります。

Mozillaなどは今回の調査結果を受けて、通常版と比較して安全でないTikTok Liteが開発途上国で展開されることで、ユーザーが有害なコンテンツにさらされたり、アプリの中毒になったりするリスクが高まっていると指摘。「ラベルやバナーの追加」「ユーザーコントロールの強化」といった改善は、帯域幅や消費電力の大幅な増加を伴わずに実行可能だとして、ByteDanceにこれらの改善を行うように呼びかけました。