「AIヒトラー」を利用して極右やネオナチがオンラインで若者を取り込んでいる

生成AIの発達と普及に伴って、「誤情報や過激な政治思想の拡散に、AIで作ったコンテンツが使われるのではないか」という懸念が高まっています。すでに極右やネオナチのインターネットユーザーが、「AIによる音声クローン技術で作り出したAIアドルフ・ヒトラー」を利用して、極端な政治思想をオンライン上で若者に広げていると日刊紙のワシントン・ポストが報じました。

How neo-Nazis are using AI to translate Hitler for a new generation - The Washington Post
https://www.washingtonpost.com/technology/2024/09/27/neonazis-ai-hitler-videos/

イギリスのシンクタンク・戦略対話研究所(ISD)が2024年9月22日に発表したレポートによると、ナチスによるホロコーストを否定する歴史修正主義の高まりに伴い、ナチスの指導者だったヒトラーを称賛するオンラインコンテンツが急増しているとのこと。

中でもヒトラーの演説を賛美・弁明・あるいは英語に翻訳したコンテンツは8月13日以降の約1カ月間で、X・TikTok・InstagramなどのSNS上で約2500万回も再生されていました。コンテンツは主に、AI音声によってヒトラーの演説が英語に翻訳されたものだったそうで、特にXにおいてリーチする範囲が広かったと報告されています。

専門家は、数秒で本物そっくりの写真・声・動画を作り出すことができる生成AIツールの存在が、過激派グループが危険思想を広める機会を増やしていると指摘しています。これにより、従来より多くの若者が過激思想に触れるリスクがあるほか、プラットフォームの運営企業にはモデレーションの課題が提起されています。

実際にAI音声クローンで作成された「ヒトラーが英語で演説する動画」には、「懐かしいよ、アドルフおじさん」「彼は英雄だった」「ヒトラーは悪者じゃなかったのかもしれない」といったコメントが寄せられているとのこと。国際安全保障のシンクタンクであるアトランティック・カウンシルで上級研究員を務めるエマーソン・ブルッキング氏は、「これは新しい世代にとってより魅力的な、新しい種類の感情的な関与を可能にします」と述べました。

極右やネオナチのグループはTelegramやダークウェブのフォーラム上で、AIで作り出した演説動画がヒトラーの思想を若者に広める簡単で効果的な方法だと評価しています。ファシストを自称するウェブサイト・American FuturistはTelegramの公開チャンネルに、「この種のコンテンツは、レッドピルを電光石火の速さで膨大な視聴者に広めています。プロパガンダの点で、これに匹敵するものはありません」と、映画「マトリックス」に登場する真実を知る薬になぞらえてコメントしました。

また、OMGITSFLOODという名前で活動しているネオナチのコンテンツクリエイターは、動画共有サイトのOdysee上で行った配信で、「ElevenLabsのAI音声クローン作成ツールと動画ソフトウェアを使ってヒトラーの動画を作る方法」を解説しました。OMGITSFLOODは配信上で、「資本主義システムから利益を得ているユダヤ人について英語で演説するヒトラーの動画」を、わずか5分ほどで作ったとのこと。なお、OMGITSFLOODは配信でヒトラーのことを「史上最高のリーダーの1人」だと述べ、ネオナチ思想になり得る若者に刺激を与えたいと語ったそうです。

ワシントン・ポストがこの件についてElevenLabsに報告したところ、ElevenLabsはOMGITSFLOODをプラットフォームから追放しました。ElevenLabsのAI安全担当ヴァイスプレジデントを務めるアルテミス・シーフォード氏は、「暴力的・憎悪的・または嫌がらせ的なコンテンツを作成するために同社のツールを使用することを禁止しています」と、ワシントン・ポストに語りました。

現代ではプログラミングなどの専門知識がなくても容易にAIコンテンツが作成可能であり、「ヒトラーが英語で演説する動画」の作成に必要な素材は、YouTubeから抜粋したわずか数秒の動画で十分だそうです。左派の非営利監視団体・Media Matters for Americaの誤情報研究者であるアビー・リチャーズ氏は、「今やこうしたコンテンツを送り出すのは非常に簡単です。投稿が多ければ多いほど、これまでよりずっと多くの人目に触れる可能性が高まります」と指摘しています。

また、TikTokやX、Instagramなどで人気を集めるAI生成ヒトラーの動画には、ナチスのプロパガンダによく見られる特徴が薄いことも指摘されています。たとえば、ある動画にはヒトラーの写真ではなく単なるシルエットだけが添えられていたほか、ゆっくりした楽器の音に乗せて英語の演説が流れる動画もあるとのこと。こうした動画にはテロリストや過激派のロゴが含まれていないため、テクノロジー企業が取り締まるのは極めて困難です。

ISDの上級研究員であるジャレッド・ホルト氏は、AIヒトラーの動画を見たり共有したりする人全員が演説の内容に同意しているわけではなく、単に「面白い」あるいは「過激だ」と感じているだけの場合もあると指摘。その上で、「しかし、政治という広い枠組みの中で人々がこうしたコンテンツに何度も遭遇すると、感覚がマヒしたり正常化してしまったりする可能性もあります」と、ホルト氏は警告しました。