ネット上の荒らしや誹謗中傷を防ぐベストなアイデアやテクノロジーとは

By The People Speak!

匿名で情報を発信できるインターネットでは、他人に嫌がらせや誹謗中傷を行う「荒らし行為」が後を絶たず、 「荒らし」「リベンジポルノ」「嫌がらせ」などさまざまな形となって世界中で問題になっています。そんな荒らし行為をテクノロジーで防止するための研究について、BBCがとりまとめています。

BBC - Future - What is the best way to stop internet trolls?
http://www.bbc.com/future/story/20160318-what-is-the-best-way-to-stop-internet-trolls


スタンフォード大学・コーネル大学は、18カ月間にわたってCNN.comやBreitbart.comに寄せられた4000万以上のコメントを収集・分析し、ウェブサイト側が荒らしユーザーにアクセス制限をかけるなどの対策をとる前に荒らしユーザーを特定するアルゴリズムを開発したという研究結果を発表しています。

Antisocial Behavior in Online Discussion Communities
(PDFファイル)http://arxiv.org/pdf/1504.00680v1.pdf

論文の共同執筆者であるコーネル大学情報科学部のCristian Danescu-Niculescu-Mizi氏によると、「必ずしもユーザーの言動をチェックすることは不可欠ではなく、ユーザーの行動によって反社会的なユーザーを早期発見できるのです」と、アルゴリズムについて説明しています。大量のコメントを分析した結果、反社会的なユーザーはごく少数のスレッドに集中する傾向があったことから、ユーザーの特定の活動パターンをフィルタリングすることで、荒らしを行う可能性の高いユーザーを特定できるアルゴリズムが完成したとのこと。

「アルゴリズムはコメントを始めてわずか5~10の投稿で、荒らしユーザーを発見することができます。アルゴリズムが特定したユーザーは、その後80%の確率でウェブサイトやフォーラムからアクセス制限がかけられるでしょう」とDanescu-Niculescu-Mizi氏は説明。しかし、アルゴリズムはこれらのユーザーを自動的に排除するために作られたのではなく、人間の仲介者が必要であることを研究チームは強調しています。いち早く荒らしユーザーにフラグを立てることで、人間が警告を出すことを目的としたアルゴリズムなのだそうです。

By Babbletrish

スタンフォード大学・コーネル大学の方法はアルゴリズムのループの中に警告する人間が含まれるよう意図されていますが、ネット上のLGBTユーザーに対する荒らし行為を防止するイギリス政府主導の「Stop Online Abuse」というキャンペーンが行われるなど、人間によって荒らし行為を監視する努力が世界中で行われています。そんな人間による監視・警告を補助するテクノロジーも登場しており、その一例が「荒らしユーザーに荒らしを行う」というもの。

「Zero Trollerance」という荒らしをなくすためのキャンペーンでは、TwitterのBOTを使って荒らし行為を行うユーザーに対して自動的に「自力救済プログラム」の参加を呼びかけるという方法が採用され、1週間で何千ものアカウントにメッセージを送ることに成功したそうです。

一見すると冗談のような対策ですが、「いじめっ子はいじめたことを覚えていない」とよく言われるように、自分がされていることを荒らしユーザーに追体験させるというアイデアは、非常に有効的であるとBBCは評価。実際にイギリスの慈善団体「ChildNet」は、同様の発想で「Sexting(セクスティング)」の被害者側の体験を再現したドラマを子どもたちに見せるという活動により、ネットリテラシーを向上させる効果を上げているそうです。

By Pro Juventute

・関連記事
「より良いネット」を作るためにヘイトと嫌がらせ表現の検閲の必要性をGoogle会長エリック・シュミットが主張 - GIGAZINE

ネットの恨みはSWAT出動で晴らす、17歳の少年が女性ゲーマーを標的にしたスワッティングの恐ろしい犯行手口とは? - GIGAZINE

ネット上に出没する「荒らし」はナルシシストでサイコパスなサディストであることが研究により判明 - GIGAZINE

Twitter上の嫌がらせ行為で通報を受けたTwitterはどう対処しているのか? - GIGAZINE

嫌がらせを行うTwitterアカウントを自動ブロックし、ユーザー同士でブロックリストの共有も可能な元Twitterエンジニアが開発した「Block Together」 - GIGAZINE

133

in ソフトウェア,  ウェブアプリ,  メモ, Posted by logw_ny