Instagramが「オンラインいじめ対策」として攻撃的なコメントをチェックする新機能をテスト中

by geralt

Facebook傘下のSNSであるInstagramは、AIによってコメントの攻撃性を判断し、投稿者にコメントの再考を促す新機能をテストしていることを発表しました。同時にInstagramは、近年問題視されているSNS上でのいじめに対して断固として戦う姿勢を見せています。

Our Commitment to Lead the Fight Against Online Bullying – Instagram
https://instagram-press.com/blog/2019/07/08/our-commitment-to-lead-the-fight-against-online-bullying/

Instagram introduces new anti-bullying features
https://time.com/5619999/instagram-mosseri-bullying-artificial-intelligence/

Instagramがテストしている新機能は、投稿される前にAIによって攻撃的だと判断されたコメントにフラグを立てて、コメントの投稿者に投稿を再考するかどうかを尋ねるというもの。投稿者は、投稿前にAIから攻撃的と判断されたコメントの内容を修正して投稿することができます。例えば以下の画面は、実際に攻撃的なコメントに対してAIが反応し、「本当にこれを投稿したいですか？」と諭しているところ。

また、ユーザーが悪質なコメントを制限できる「Restrict」という機能のテストも行われるそうです。この機能では、制限されたユーザーのコメントやダイレクトメッセージは自分を含めた他のユーザーからは一切見えなくなりますが、悪質なコメントを書き込んだ本人からだけは見えるのこと。つまり、相手に通知することなく特定のユーザーをミュートすることができるようになるというわけです。

CNBCによれば、2019年1月の時点でInstagramのストーリー機能を活用するユーザーは1日5億人以上であり、Instagram全体では毎月10億人のアクティブユーザーを抱えるとのこと。これほどの規模のSNSでオンラインいじめの問題が放置されれば、時間の経過と共にInstagramの評判とブランドを傷つけるだろう、とCNBCは分析しています。

CNBCがInstagramのスタッフから聞いた話によれば、2018年10月にInstagramの責任者に就任したアダム・モッセーリ氏は「ユーザーの利用が減ったとしても、ユーザーをオンラインでのいじめから守るような意思決定をするつもりです」と社員へのメールで宣言していたとのこと。

by TechCrunch

Instagramは公式ブログで、「私たちの使命はあなたとあなたの好きな人やものをつなぐことですが、そのためにはInstagramで自分自身を表現することに抵抗がないと思われなければなりません。私たちはいじめが多くの人、特に若者が直面する課題であることを知っています。私たちはオンライン上のいじめとの戦いで業界をリードすることを約束し、その約束を果たすためにInstagramの全エクスペリエンスを再考しています」と述べました。