Twitterセキュリティスタッフの大量解雇と自動化への依存は中国などの政権が批判者を黙らせるのに役立ってしまうと元Twitter従業員が警告

2022年10月にTwitterの買収を完了したイーロン・マスク氏は、Twitterの従業員の3分の2を解雇するという大規模な人員整理を行っています。この大規模な人員整理で、Twitterの管理を担当するセキュリティスタッフが大幅に減員されて自動化への依存度が高まることにより、政権批判の活動家が簡単にTwitterで発言できなくなると危惧されています。

Twitter Is Shutting Down Chinese Activists’ Accounts – Rolling Stone
https://www.rollingstone.com/culture/culture-features/twitter-elon-musk-china-dissidents-1234643726/

中国政府は新型コロナウイルス感染を抑え込むことを目的に、市民の外出を徹底的に取り締まる「ゼロコロナ政策」を発表しました。しかし、このゼロコロナ政策は市民の自由を大きく制限するものであった上に、経済にも大きな影響を与えたことから、各地でこのゼロコロナ政策に反対する声が上がりました。そして、ゼロコロナ政策で人命救助が遅れて甚大な被害が出た南京市の火災を追悼する学生たちの運動から、真っさらなA4用紙を掲げて中国政府の批判を訴える「白紙革命(A4 Revolution)」が世界中で起こっています。

そんな中で、作家でコメディアンであるビッキー・ワン氏は「(マスク氏による買収で)Twitterはもう終わりだと言っている人たちへ。この神に見捨てられたプラットフォームでの最後の行動は、中国で自由を求めるデモ参加者の声を増幅することかもしれません」と述べ、中国政府への抗議運動に参加する人向けのオンラインミーティングについての情報を共有しました。

その直後、ワン氏のTwitterアカウントが凍結され、さらに抗議活動に参加したり支援したりした人のアカウントも停止されてしまったとのこと。ワン氏らは、Twitterから凍結された理由として「プラットフォームの操作とスパムに関するポリシー」に違反したためだと説明されたそうです。

多くのソーシャルメディアプラットフォームと同様、Twitterでは、罵倒的な内容やスパム、著作権侵害に関する規則に違反する投稿をユーザーが報告することができます。これらの報告は、通常、その妥当性を評価し、報告者のアカウントに対して強制的な措置をするかどうかを決定するスタッフに依存していました。アメリカの情報誌であるローリング・ストーンは、これまではTwitterのセキュリティを担当している「信頼と安全」部門の従業員が凍結するかどうかを判断していたにもかかわらず、人員整理で従業員のほぼ全員が解雇されてしまいモデレーションが自動化に依存してしまっているために、虚偽の通報によるアカウント凍結などの問題が起こったと説明しています。

Twitterの信頼と安全部門にいたという元従業員はローリング・ストーンに対して、「自動化されたモデレーションのほとんどは、アカウントの技術情報とその出自だけではなく、英語と中国のキーワードに基づいた経験則で行われています。中国語を話せる人や中国関連のモデレーション作業を行っていた人はすべて会社からいなくなってしまいました」と述べています。

元従業員は、人員不足と自動化への依存によって、権威主義的な国や手練れのサイバー攻撃者がコンテンツ報告システムを利用して批判者をTwitterから容易に追い出せるという懸念を示しています。

過去にはバングラデシュのイスラム保守派ネットワークが、K-POPグループ・BTS公式と名乗って20人以上のファンのアカウントに著作権違反報告を送信し、一時的に凍結に追い込む事件があったそうです。この事件と同様に、中国政府が反体制運動者のアカウントを虚偽通報することで凍結に追い込むという作戦に出る可能性があります。

また、Twitterの元従業員は、オーストラリア系中国人のジャーナリストであるビッキー・シュウ氏に対する嫌がらせがあったと告白しています。シュウ氏は中国政府による新疆ウイグル自治区における弾圧を批判しており、Twitterアカウントにはスパムアカウントによる殺害予告や嫌がらせツイートが山のように押し寄せてきたそうで、シュウ氏はTwitterでの活動を一時休止せざるを得なくなりました。このスパムアカウントによる荒らしを行っているのは、中国政府とのつながりが指摘されている親中派荒らしネットワーク「Spamouflage Dragon」だと考えられるとのこと。元従業員によると、シュウ氏の嫌がらせには本物の中国のナショナリストによるものと、Spamouflage Dragonによる嫌がらせが混在していたそうです。

また、白紙革命についても、ポルノ広告を大量にTwitterに投稿することで中国の抗議デモについての情報を集めにくくする動きがすでに報告されています。

Twitterで中国のポルノ広告が爆増、大規模抗議デモを海外の目から隠す狙いか - GIGAZINE

なお、ローリング・ストーンによると、Twitterはこれまでの調査から、同様の事態が起こらないようにするためにも中国の影響力行使に対抗するために設置された自動モデレーションシステムを更新する必要があると論じており、マスク氏による買収以前に調査結果を公表する予定だったそうです。