MetaがAI生成のプロパガンダを拡散するイスラエルのネットワークをFacebookとInstagramから削除

Metaが2024年5月29日に発表した四半期ごとの脅威レポートで、「アメリカとカナダのユーザーにAI生成のプロパガンダを拡散する、イスラエルのFacebookとInstagramのネットワーク」を閉鎖したと報告しました。

Meta Quarterly Adversarial Threat Report Q1 2024 - 445235204_402858536059630_7403303878106178024_n.pdf
(PDFファイル)https://transparency.fb.com/sr/Q1-2024-Adversarial-threat-report

Meta shuts down Israeli network pushing AI-generated propaganda in U.S. and Canada | Ctech
https://www.calcalistech.com/ctechnews/article/rjqswxh4r

Meta identifies networks pushing deceptive content likely generated by AI | Reuters
https://www.reuters.com/technology/meta-identifies-networks-pushing-deceptive-content-likely-generated-by-ai-2024-05-29/

Metaは四半期ごとの脅威レポートで、イスラエルで運営されていたFacebookとInstagramのプロパガンダネットワークを削除したと報告しました。これらのネットワークは、アメリカやカナダのユーザーを標的にプロパガンダを展開していたとのことです。

イスラエルのプロパガンダネットワークは、510のFacebookアカウント、11のFacebookページ、1つのFacebookグループ、そして32のInstagramアカウントで構成されていました。このネットワークのフォロワーはFacebookで500人未満、Facebookのグループメンバーは100人未満、Instagramのフォロワーは約2000人だったそうで、Metaはネットワークがオーディエンスを獲得する初期段階での閉鎖に成功したと主張しています。

これらのネットワークは偽のアカウントや盗まれたアカウントを使用しており、Metaの自動化システムによってアカウントが無効化されても、アカウント売買サービスで購入したと思われる新規アカウントを追加し続けたとのこと。また、ベトナムなどの国々から「いいね！」やフォロワーを購入し、アカウントやグループが周囲からの支持を集めているように見せかける印象操作も行っていたそうです。

Metaによると、イスラエルのネットワークは国内外の報道機関やアメリカの政治家などの投稿にしばしば返信し、時にはネットワークが運営するウェブサイトへのリンクを送りつけることもあったそうです。ネットワークによる投稿には反発もあり、「これはプロパガンダだ」と批判する人間のアカウントからの返信が寄せられることもあったとのことです。Metaは、ネットワークの返信の一部がAIを通じて生成されたと推定しています。

以前からAIが生成したプロフィール写真や画像を使ったプロパガンダキャンペーンは見つかっていましたが、テキストベースで生成AIを使用した事例が明らかになったのは今回が初めてです。Metaの脅威調査責任者であるマイク・ドビリアンスキー氏は、「これらのネットワークでは、コンテンツ作成に生成AIツールを使用している例がいくつかあります。おそらく生成AIツールは、より素早く大量のコンテンツを作る能力をもたらしているのでしょう。しかし、私たちがネットワークを検知する能力に影響を及ぼすには至っていません」とコメントし、生成AIの利用はMetaのプロパガンダキャンペーン検出に影響を及ぼしてはいないと主張しました。

プロパガンダネットワークのアカウントは、アメリカやカナダに住むユダヤ人学生やアフリカ系アメリカ人などになりすまし、主にイスラエルとハマスの戦争について英語で投稿していたとのこと。アカウントは人質の解放を求めると共にイスラエルの軍事行動を称賛し、反ユダヤ主義を批判する一方で「過激なイスラム教がカナダのリベラルな価値観を脅かす」といった差別的主張を行っていたそうです。

Metaはネットワークの運営元を、イスラエルのテルアビブを拠点とするデジタルキャンペーン運営企業・STOICであると特定しました。すでにSTOICはMetaのプラットフォームからブロックされており、Metaはポリシーに違反する活動を停止するよう求める書簡を送付したとのこと。

なお、Metaはイスラエルのプロパガンダネットワークだけでなく、イスラエルのユーザーを標的としたイランのプロパガンダネットワークも閉鎖したと報告しています。イランのネットワークには22のFacebookアカウントや8のFacebookページ、同じく8のFacebookグループ、そして23のInstagramアカウントが含まれており、影響力はイスラエルのネットワークよりわずかに強かったとのことです。このキャンペーンはイスラエルと異なり、生成AIの使用は確認されなかったと報告されています。