メッセージングアプリのTelegramがコンテンツモデレーションについての状況を報告、約1550万のグループとチャンネルを2024年に削除したと発表
メッセージングアプリのTelegramでは、2024年8月に創設者兼CEOのパーヴェル・ドゥーロフ氏がTelegram上での麻薬密売・マネーロンダリング・児童ポルノなどの犯罪行為への共犯の容疑で逮捕・起訴されています。その後、Telegramでは有害コンテンツに対する大規模な取り締まりを行っており、こうした取り締まりの結果、記事作成時点で2024年中に1550万以上のグループとチャンネルを削除したことを報告しています。
Telegram: Contact @durov
https://t.me/durov/383
Telegram Moderation Overview
https://telegram.org/moderation
AI helps Telegram remove 15 million suspect groups and channels in 2024 | TechCrunch
https://techcrunch.com/2024/12/13/ai-helps-telegram-remove-15-million-suspect-groups-and-channels-in-2024/
ドゥーロフ氏によると、Telegramでは過去数年間にわたり、モデレーションチームが有害コンテンツを発信するグループやチャンネルの削除を進めているとのこと。Telegramのモデレーションチームはユーザーからの報告のほか、AIツールや自動検出システムを用いて1カ月あたり約100万のグループやチャンネルを削除してきたそうです。しかし、こうした作業の多くは秘密裏に行われており、メディアは長い間更新されていないウェブサイトから得た古い情報を発信していました。その結果、多くのユーザーが「Telegramは十分なモデレーションを行っていない」とTelegramを批判する状況に陥っていました。
そのため、Telegramではモデレーションの現状を紹介する公式ページを作成しています。以下のページではTelegramのモデレーションチームによるグループとチャンネルの削除状況について閲覧できます。
Telegram Moderation Overview
https://telegram.org/moderation
Telegramでは、暴力の扇動や児童虐待資料の共有、違法商品の取引など、利用規約に違反するグループやチャンネルを連日数万件ブロックしています。2015年以降、モデレーションチームではユーザーレポートと機械学習を活用したプロアクティブな監視が行われているほか、2024年初頭には最先端のAIモデレーションツールを導入。2024年中にブロックしたグループとチャンネルの総数は記事作成時点で1557万8753件に上ります。
また、Telegramは児童性的虐待資料(CSAM)に対する厳しいポリシーを導入しており、2018年以降、Telegram上で共有された画像は過去10年間でモデレーターによってブロックされたCSAMのハッシュデータベースと自動的に照合されます。2024年には、Internet Watch Foudationなどの組織からの情報を利用して、このデータベースの拡張を実施しています。この結果、2024年中には70万7576件のCSAM関連のグループとチャンネルをブロックすることに成功しました。
さらに、2022年以降、TelegramはGlobal Center for Combating Extremist Ideologyなどの組織と提携して、暴力やテロリズムに関するコンテンツの削除への取り組みを強化しています。2024年中にTelegramは、13万119件のテロリスト関連のコミュニティをブロックしています。
・関連記事
逮捕されたTelegramのパーヴェル・ドゥーロフCEOは2017年にフランスとUAEの共同作戦によりiPhoneがハッキングされていた - GIGAZINE
EUがTelegramを「規制回避のためにユーザー数を過少申告した」疑惑で調査開始 - GIGAZINE
メッセージングアプリのTelegramがCEO逮捕後に「チャットはモデレートしない」という文言を公式サイト上からひっそり削除 - GIGAZINE
メッセージングアプリのTelegramがユーザーのIPアドレスや電話番号を関連当局に提供できるように - GIGAZINE
逮捕されたTelegramのCEOが「児童虐待画像の拡散」「麻薬の密売」など12の罪で起訴される - GIGAZINE
メッセージアプリ「Telegram」の創設者兼CEOのパーヴェル・ドゥーロフがフランスで逮捕されたとの報道 - GIGAZINE
・関連コンテンツ
in ネットサービス, Posted by log1r_ut
You can read the machine translated English article Messaging app Telegram reports on conten….