何度ブロックされてもアカウントを変えて荒らし続ける迷惑ユーザーを機械学習で検出する仕組みをTwitchが導入

by Marco Verch Professional Photographer

ゲーム実況プラットフォームのTwitchが、ハラスメント事例を減らすための取り組みをさらに進め、アカウントBANやブロックをされないように嫌がらせや荒らしを行う人を機械学習で検出するツール「Suspicious User Detection(疑わしいユーザーの検出)」を導入したと報じられています。

Twitch will use machine learning to detect people evading bans - The Verge
https://www.theverge.com/2021/11/30/22810180/twitch-machine-learning-suspicious-user-detection-bans

Twitchの配信者は、差別的なコメントや他人への嫌がらせになるようなコメントを投稿するユーザーをブロックすることができます。しかし、どれだけブロックしても、別のアカウントを用意して荒らし行為をしつこく続ける者も存在します。Suspicious User Detectionを支える機械学習モデルは、ユーザーの行動やアカウントの特徴などを評価し、その情報をストリーマーのチャンネルから禁止されたアカウントのデータと比較することで、すでにブロックされている荒らしと同一人物である可能性を検証します。

「ブロック対象者である可能性の高い」と判断されたユーザーからのメッセージはチャットには送信されませんが、配信者やチャンネル管理権限を持つモデレーターはそれらを見ることができます。また、配信者とモデレーターは、該当するユーザーを引き続き監視するか、その場でブロックするかを選択でき、引き続き監視を行う場合は、対象のユーザー名の横に監視を示すメッセージが表示されます。

Twitchは、デフォルトでSuspicious User Detectionをオンにするとしていますが、配信者は必要に応じてこのツールを微調整したりオフにしたりすることができます。さらに配信者やモデレーターが、疑わしいユーザーを手動で選択して監視することも可能です。Twitchのプロダクト・ディレクターでコミュニティ・ヘルス担当のアリソン・ハフマン氏は、「このツールは、コミュニティから寄せられた『ブロック回避者に対処するためのより良い方法が必要だ』という意見に大きく触発されたものです」という声明を、IT関連ニュースサイトのThe Vergeに対して出しています。

さらに、ハフマン氏はThe Vergeの取材に対して、「チャンネルのルールに違反するようなコメントをするユーザーが迷惑な嫌がらせを繰り返しているのか、それともチャンネルのルールを知らない新規視聴者なのかを見分けるのが難しいという意見がありました。そのため、私たちはSuspicious User Detectionを設計しました。これにより、クリエイターやチャンネルのモデレーターは、チャンネル内でより効率的で十分な情報に基づいた判断ができるようになります」と述べました。

by BrickinNick

また、配信者はチャットに参加するユーザーに電話番号またはメールアドレスを使った認証を要求することが可能で、この機能をSuspicious User Detectionと組み合わせれば、目に余る迷惑ユーザーと新規視聴者の違いがよりわかりやすくなります。しかし、The Vergeは「疑わしいユーザーの検出が実際にどの程度の効果を発揮するのか、そしてブロックを回避してチャンネルを荒らし続ける者がSuspicious User Detectionを回避する方法を見つける可能性も十分考えられます」と述べ、Suspicious User Detectionが荒らしをなかなか抑制できない可能性も示唆しました。