AIのように行動するユーザーに人間証明を求めるシステムがRedditに導入される

オンライン掲示板のRedditで、AIボットを特定するための新たな取り組みが進められています。今後は「不審な動作」を行うユーザーに人間であることの証明が求められるようになるとのことです。

Reddit accounts with ‘fishy’ bot-like behavior will soon need to prove they’re human | The Verge
https://www.theverge.com/tech/900363/reddit-human-verification-bots-crackdown

Redditのスティーブ・ハフマンCEOは、「私たちの製品は常に人間同士の会話を形にしてきました。まとまりがなく、素晴らしい時もあればそうでない時もありますが、常にリアルです。AIがインターネットにおいてますます重要な役割を果たすようになるにつれ、Redditで相手が人間なのかそうでないかを明確にしたいと考えています。Redditでは、特に明記されていない限り、会話相手は人間であると考えるべきだからです」と発言し、ボットへの対策を強化することを明かしています。

対策としては、人間が運営する個人・団体アカウントや良質なボットアカウントへの認証済みラベルの付与、悪質なボットによるコンテンツの削除、不審な動作に対する検証の実施などが予定されます。

ハフマンCEOによると、アカウントが人間ではないとシステムが判断した場合、背後に人間が存在することを検証することがあるそうです。検証のために、パスキー認証、サードパーティの生体認証、政府発行の身分証明書の確認などが行われます。

検証に当たってはプライバシーが最優先に考慮され、背後に人間がいることを確認するだけで、その人物を特定するようなことはないそうです。

この検証は主にAIエージェントによる操作代行やその他の自動処理が行われたと判断された場合に実施される予定で、ハフマンCEOは「レアケースであり、ほとんどのユーザーには適用されません」と説明しています。

なお、人間がAI生成文章を投稿するという行為は「グレーゾーン」であり、まだ過剰な対策は講じないとのこと。ハフマンCEOは「AIの使用状況を監視し、どのような結果になるかを見ていきます。良くも悪くも、AIを使って文章を書くことは将来的なコミュニケーション方法の一部となるでしょう。現在の私たちの焦点は、皆さんが見ているアカウントの背後に生身の人間がいることを保証するというものです」と伝えました。