韓国の500以上の学校に「ディープフェイクポルノの被害者」がいる可能性、警察はTelegramの捜査を開始

近年はAI技術の進展に伴い、AIを使って実在する人の写真から衣服を剥ぎ取った「ディープフェイクポルノ」が社会的な問題となっています。韓国では、ディープフェイクポルノの被害者がいる中学・高校・大学をマッピングした「ディープフェイクマップ」が作成されており、マップには500以上の学校や大学が登録されているとのことです。

Deepfake map made by middle school student goes viral nationwide - The Korea Times
https://www.koreatimes.co.kr/www/nation/2024/08/113_381565.html

Map Shows South Korean Students Making Child Abuse Deepfakes
https://www.dailydot.com/debug/deepfake-map-south-korea/

Encrypted Apps Like Telegram Fuel Surge of AI-Generated Deepfakes in Schools | CCN.com
https://www.ccn.com/news/technology/telegram-fuels-ai-deepfakes-in-schools/

韓国ではディープフェイクポルノがまん延しており、サイバーセキュリティ企業のSecurity Heroが2024年に発表したレポートでは、ディープフェイクポルノの作成サイトにアップロードされた被害者の53％が韓国人だったと報告されています。なお、2位のアメリカは20％、3位の日本は10％となっていました。

そんな中、韓国の高校1年生の男子生徒が、ディープフェイクポルノの被害者がいる中学・高校・大学をマッピングした「ディープフェイクマップ」を作成しました。男子学生はマップを作った理由について、「私の学校で5人ほどの生徒が被害に遭っていると知りました。被害者のうち1人が知り合いだとわかって、これは本当に問題だと思ったのでマップを作ることにしました」と地元メディアに語っています。

マップには以下のように、被害者がいるとされる学校の場所に赤い印が付けられています。

ディープフェイクマップのことが口コミで広がると訪問者数が急速に増加して、DDoS攻撃と思われるものも発生したとのこと。マップは電子メールでの情報提供やSNSの報告に基づいて更新されており、すでに500以上の学校が登録されています。なお、記事作成時点では、公式ウェブサイトはサーバーの問題でアクセスできませんでした。

韓国の最大野党・共に民主党の議員に提出された警察のデータによると、韓国で2021～2023年に報告されたディープフェイク犯罪の被害者527人のうち、59.8％が10代であり、20代の32.1％、30代の5.3％、40代の1.1％と比較して圧倒的に多数を占めていたとのこと。ディープフェイクポルノの被害者は99％が女性であることがSecurity Heroのレポートでも報告されており、特に未成年の少女がターゲットになっています。

ディープフェイクポルノの問題が深刻化している理由としては、使いやすいディープフェイク生成ツールの登場が挙げられます。しかし、いわゆる「ヌード化アプリ」だけが原因なのではなく、違法なディープフェイクポルノを拡散するプラットフォームの存在も一因を担っています。

そこで韓国の警察は9月2日、ディープフェイクポルノを助長した可能性があるとして、メッセージングアプリとして高い人気を誇る「Telegram」の捜査を始めました。Telegramはメッセージを暗号化するオプションを含むプライバシー機能を備えており、ユーザーは身元を隠してディープフェイクポルノの共有ができるとのこと。同様の匿名性を提供するアプリは他にもありますが、Telegramの月間ユーザー数は9億5000万人と群を抜いて人気があります。

韓国警察の動きは、Telegramのパーヴェル・ドゥーロフCEOがフランスで逮捕され、「児童虐待画像の拡散」「麻薬の密売」「法執行機関の要請に対する不服従」などの罪で起訴されたことに続くものです。

逮捕されたTelegramのCEOが「児童虐待画像の拡散」「麻薬の密売」など12の罪で起訴される - GIGAZINE

Telegramの東アジア支部の代表者は、9月3日に韓国の放送通信審議委員会(KCSC)にメールを送り、KCSCの要求に応じてプラットフォームから25件の性的搾取コンテンツを削除したと報告しました。また、ディープフェイク問題の対応について謝罪し、メディア監視機関とのコミュニケーション専用のメールアドレスを共有したとのことです。

Telegram apologizes for handling of deepfake porn content in S. Korea | Yonhap News Agency
https://en.yna.co.kr/view/AEN20240903008900320

KCSCの関係者は、「ディープフェイクの性的搾取コンテンツの拡散を解決し、最終的にデジタルの性犯罪コンテンツを根絶するために、専用メールアドレスをはじめとするホットラインを確保することで、Telegramとの協力を強化したいと願っています」とコメントしました。