Twitterのボットを活用することで人種差別発言を抑制させる効果があることが判明

Twitter上には時おり特定の人種を差別するようなツイートが流れることもあるものですが、そのような発言を行っている相手に対し、Twitterの「ボット」を活用して「反応」を示すことで、人種差別的な発言を抑制する効果があることが研究で判明しました。この効果は「ボットが白人を装っている場合」に最も効果が高いという、興味深い傾向があることも注目すべき点です。

Twitter bots can reduce racist slurs—if people think the bots are white | Ars Technica
http://arstechnica.com/science/2016/11/twitter-bots-can-reduce-racist-slurs-if-people-think-the-bots-are-white/

ニューヨーク大学政治学部で博士課程を履修するKevin Mungerさんは、Twitter上でいわゆる「Nワード」、つまり黒人に対する蔑称である「Nigger (ニガー)」という言葉を含む発言を行っているアカウント231個を抽出しました。そしてそれらのアカウントが差別発言を行った際に、発言を戒める内容を返信して相手の反応を調査しています。

このアカウントを抽出する際に、Mungerさんは「アカウント作成から6か月以上が経過している」「Mungerさんがアカウントを追跡した期間における発言全体のうち、Nワードを含むものが3％以上ある」「アカウントの持ち主が白人男性と思われる」という条件を設定しています。特に、白人男性に絞った理由についてMungerさんは「白人男性は、黒人に対するオンライン上の人種差別攻撃に関与するグループの大部分を占め、最も政治的に突出していたため」と説明しています。

Mungerさんは検証用に複数のフェイク(偽の)アカウントを作成しました。アカウントの種類は人種別に複数のものを用意し、アカウントをフォローしている人数をバラバラにすることで、フェイクであることを悟られないように設定したとのこと。フォロワーを設定する際には、フェイクのフォロワーを提供するボットサービスからフォロワーを購入したそうです。実際に使われたアカウントがいくつあるかは非公開で、以下の2個のアカウント以外は公開されていません。1つは、伝統的に白人に多いとされる名前を使った「Greg Jackson」というもので、写真にも白人とみられるアバターを設定しています。

Greg Jackson(@GregJackson730)さん

そしてもうひとつの例が、こちらは黒人に多いとされる名前を組み合わせた「Rasheed Smith」というアカウント。名前にあわせ、黒人を思わせるアバターが用いられています。いずれのアカウントも、発言の内容は非公開となっています。

Rasheed Smith(@RasheedSmith45)さん

作業は以下のフローに沿って進められたとのこと。まず「nigger」という単語を含むツイートを見つけ、その内容が「@」を含むもの、つまり誰かに宛てられているものであるかどうかをチェック。これに該当する場合は、アルゴリズムを用いてそのユーザーの発言の攻撃性を判定して数値化し、一定の値を超えるものを抽出。抽出されたアカウントを人間が実際に見て、まずはそのアカウントを使っているのが白人であるかどうかを判断し、「@」でターゲットにされている相手との関係性を調べたうえで、直接の知人関係ではなく、第三者に対して人種差別的な攻撃を加えていると判断された場合に、その発言を戒める内容を返信しました。

その返信内容は以下のようなもの。「@[subject] Hey man, just remember that there are real people who are hurt when you harass them with that kind of language.」(訳：@相手名 なぁ、あんたがその言葉で攻撃することで実際に傷つけられる人がいるってことを覚えておいてくれよ)という、差別的発言に対する忠告を投げかけています。

検証の結果、最も差別発言の抑制に効果があったのが、「白人のアバターを使い、フォロワー数が多いアカウント」だったとのこと。検証前とその後の発言内容を比較すると、Nワードの使用率が27％減少し、一定の効果があることが確認されています。逆に、「白人でフォロワー数が少ないアカウント」と、「黒人全般」のアカウントを使った場合はほぼ効果が見られず、逆に相手が反撃してくるケースもあったとのこと。また、Mungerさんによると、差別発言を行っていたアカウントの多くが女性差別が背景にあるとされるゲーマーゲート問題を意味するハッシュタグ「#GamerGate」を使っていたことと、ドナルド・トランプ氏の大統領選キャンペーン時のアカウントをフォローしていたとのこと。GamerGate問題とトランプ氏の支持層には一定の関係性が指摘されているのも興味深いところです。

オルタナ右翼とゲーマーゲートと呼ばれる事件の関係 | ワールド | 最新記事 | ニューズウィーク日本版 オフィシャルサイト
http://www.newsweekjapan.jp/stories/world/2016/09/post-5865.php

Mungerさんはこの結果について、オンラインでの差別発言を抑制する効果は確認されたものの、「実際の社会における偏見的な考え方や行動にも効果があるかどうかは疑問が残る」としています。

なお、Twitterは2016年11月16日、いじめやハラスメントといった「嫌がらせ」への対策としてミュート機能と報告システムに変更を加えることを発表しています。

Twitterが嫌がらせ対策として特定キーワード・ハッシュタグ・絵文字などでフィルタリング可能に - GIGAZINE