TikTokのコンテンツ推奨アルゴリズムとモデレーションの監査をアメリカ企業のOracleが開始

ショート動画共有SNSのTikTokは世界中の若年層から人気を集めていますが、中国政府とのつながりが懸念されていることから、過去にはアメリカ企業による事業買収が持ち上がったこともあります。新たにアメリカの大手IT企業・Oracleが、TikTokのアルゴリズムとコンテンツモデレーションの監査を始めたと報じられています。

Scoop: Oracle begins auditing TikTok's algorithms
https://www.axios.com/2022/08/16/oracle-auditing-tiktok-algorithms

Oracle now monitoring TikTok’s algorithms and moderation system for manipulation by China’s government | TechCrunch
https://techcrunch.com/2022/08/16/oracle-now-monitoring-tiktoks-algorithms-and-moderation-system-for-manipulation-by-chinas-government/

Oracle is reviewing TikTok's algorithms and content moderation systems | Engadget
https://www.engadget.com/oracle-tiktok-algorithms-content-moderation-review-171742979.html

長らく中国政府とのつながりが懸念されてきたTikTokについては、2020年に当時のドナルド・トランプ大統領が「アメリカ事業を同国の企業に売却すること」を求めるなど、中国からの分離を巡ってさまざまな動きがありました。なお、TikTokのアメリカ事業売却に関しては、MicrosoftやTwitterなどが名乗りを上げる中でOracleが買収に成功したと報じられましたが、2021年にアメリカ大統領に就任したジョー・バイデン政権の下で買収は無期限停止となりました。

その後もTikTokは、ユーザーデータの取り扱いや中国とのつながりに関してたびたび物議を醸しています。2022年6月には海外メディアのBuzzFeedが入手した録音データから、TikTokの中国事業所からアメリカ人ユーザーのデータに依然としてアクセス可能だったことが判明。アメリカの連邦通信委員会(FCC)でコミッショナーを務めるブレンダン・カー氏が、スマートフォン向けアプリストアを運営するAppleとGoogleに対して「TikTokを禁止するように」と呼びかける事態に発展しています。

TikTokがアメリカ人のデータを中国に流すバックドアを仕込んでいるとの報道 - GIGAZINE

by Solen Feyissa

TikTokはこうした懸念に対処するため、アメリカ・テキサス州に本拠を置くOracleと協力して、アメリカ事業を中国から分離する「Project Texas(プロジェクト・テキサス)」というプロジェクトを進めています。2022年6月には、アメリカ人のユーザーデータの保存場所を変更し、新たなユーザートラフィックの100％をOracleのクラウドインフラストラクチャーに移管したことを発表しました。

さらに8月16日、アメリカのニュースサイト・Axiosが、OracleがTikTokのコンテンツ推奨アルゴリズムやコンテンツモデレーションについての監査を開始したと報じました。Axiosの情報提供者は、この取り組みはユーザーデータのルーティングが始まった2022年8月に開始されたと証言しています。TikTokの広報担当者もAxiosに対し、Oracleがコンテンツ推奨アルゴリズムについて「結果が期待通りであること、およびモデルが何らかの形で操作されていないことを確認する」と述べ、コンテンツモデレーションについても定期的な監査を行うと確認しました。

TikTokのコンテンツ推奨アルゴリズムについては、過去に「レズビアンやゲイ、障がいのある人による投稿のリーチを制限していた」と指摘されたほか、モデレーションシステムについても中国政府の外交政策の影響を受けているという批判が寄せられたことがあります。TikTokはこれらのアプローチはすでに改善されていると主張していますが、依然としてアメリカ当局や政治家から厳しい目が向けられ続けています。

そこで、アメリカ企業であるOracleの監査でTikTokのアメリカ事業が中国政府による操作を受けていないことを確認し、アメリカ当局に安全性をアピールすることがTikTokの目的とみられています。テクノロジー系メディアのTechCrunchは、「現在、OracleはTikTokの監査を担当し、アメリカから発信されたデータが中国に向かうのを防ぐ手助けをしているようです。この契約はユーザーデータのホストとしてだけでなく、TikTokのシステムが中国の影響を受けず公正に運営されているというTikTokの主張を裏付ける、あるいは主張に異議を唱えられる監査役としてのOracleの関与を強化するものです」と述べました。

また、TikTokはプラットフォームのコンテンツ推奨アルゴリズムと、モデレーションシステムの匿名化された公開データへのアクセスを、2022年後半に研究者へ提供することを発表しています。

TikTok says it will share data with select researchers
https://www.axios.com/2022/07/27/tiktok-data-researchers-apis

なお、TechCrunchは今回のTikTokとOracleの契約について、テクノロジー業界と政治の両面で重要な意味を持つものの、Oracleがクラウドインフラストラクチャー市場での存在感を増すことにはつながらないだろうと指摘。クラウドインフラストラクチャー市場に占めるOracleのシェアは2％未満であり、クラウド収益の増加は市場そのものの成長にほぼ比例しているとのことです。