AI生成の偽情報と戦う非営利団体「TrueMedia.org」がディープフェイク検出器を公開

2024年のアメリカ合衆国大統領選に向けて、非営利団体のTrueMedia.orgがディープフェイクの検出技術を発表しました。検出ツールはこれまでに公開されたことがないAI技術に基づく前例のないモデルを試用し、メディアが操作された兆候を調査することができます。

TrueMedia.org Launches a Free AI-enabled Deepfake Detector to Help Newsrooms · TrueMedia
https://www.truemedia.org/post/free-deepfake-detector-to-help-newsrooms-across-the-country

With elections looming, TrueMedia,org releases AI deepfake detector
https://www.geekwire.com/2024/with-elections-looming-truemedia-releases-ai-deepfake-detector-for-journalists-and-fact-checkers/

近年の選挙はネットでの空中戦が激しく繰り広げられるのが良くも悪くも特徴の1つとなっています。たとえば、ドナルド・トランプ氏とヒラリー・クリントン氏が争った2016年の大統領選では、トランプ氏を当選させるためのフェイクニュースを大規模にばらまく作戦が行われたことが当事者によって明かされています。

ドナルド・トランプを大統領にしたフェイクニュースネットワークの運営者「ハッカーX」はなぜ今自分の正体を明かしたのか？ - GIGAZINE

by Gage Skidmore

また、「ロシアゲート」の名でロシアによる関与も疑われており、実際に各種SNSで多数の工作用投稿が行われたことがわかっています。

米大統領選でロシアの関与した「ロシアゲート」のFacebook投稿は1億2600万人にリーチ・ツイートは13万1000件・YouTubeには1000本以上の動画 - GIGAZINE

by CJ Anderson

そして今回、2024年の選挙で脅威になると考えられているのが、動画・画像・音声などをAIによって改変した「ディープフェイク」による偽情報の展開です。すでに、ディープフェイクと戦うため、の自主協定に大手プラットフォーマーなど20社が自主協定を結んでいます。

選挙で有権者を意図的に騙すディープフェイクと戦うための自主協定にAdobe・Amazon・Google・IBM・Meta・Microsoft・OpenAI・TikTok・Xその他11社が署名 - GIGAZINE

この流れに乗る形で公開されたのが、TrueMedia.orgによるディープフェイク検出器です。検出器にYouTube、X(旧Twitter)、Instagram、Facebook、TikTok、Reddit、Mastodon、Googleドライブのリンクを渡すと、リンク先に投稿されている動画・画像・音声などのコンテンツが操作されたものではないかどうかをチェックしてくれます。

直近でチェックされたものだと、シンガーソングライターとして活躍するテイラー・スウィフトさんが「トランプ勝利」と掲げる動画について、5つの要因のうち4つの要因で操作が疑われる動画であると判定を行っています。

TrueMedia - Use Generative AI to Benefit Humanity
https://truemedia2024.vercel.app/media/analysis?id=m27gguqmI3fT8fs1LN096SDk3JE.mp4

ディープフェイク検出器は政府関係者や報道機関、学者、非営利団体、選挙スタッフ、ファクトチェッカーなど、党派制を問わずあらゆる人が利用できるよう無料で提供されます。