AIが生成した画像をプロフィール写真にするフェイクアカウントが登場、Facebookが削除を報告

by Austin Distel

FacebookおよびInstagramが、人工知能(AI)が作成した顔写真をプロフィール写真に使用して「アメリカ人になりすましている」という複数のフェイクアカウントを削除したことを発表しました。これらのアカウントはドナルド・トランプ大統領を支持するメッセージを投稿していたと報じられた企業との関係も示唆されています。

Removing Coordinated Inauthentic Behavior From Georgia, Vietnam and the US - About Facebook
https://about.fb.com/news/2019/12/removing-coordinated-inauthentic-behavior-from-georgia-vietnam-and-the-us/

Facebook and Twitter shutter pro-Trump network reaching 55 million accounts - The Verge
https://www.theverge.com/2019/12/20/21031823/facebook-twitter-trump-network-epoch-times-inauthentic-behavior

Facebookが削除したフェイクアカウント群は、それぞれ別の広告企業により運用されていた模様。

1つはジョージアにある広告代理店が運用していたというアカウント群および、アカウントが作成したページやグループ。削除したのはアカウント39件、Facebookページ344件、Facebookグループ13件、Instagramアカウント22件です。

これらのアカウントおよびページは、Facebookが手動で削除する前から自動化システムによって一部が無効化されていたとのことです。Facebookによると、削除されたアカウントやページは報道機関を装ったり、政党・公人・活動家グループなどになりすましたり、アメリカ国内のニュースを拡散したり、選挙や政策について投稿したり、野党を批判したり、活動家組織などの政治的問題について投稿したりしていた模様。削除されたアカウント群を取り扱う人々はその存在を隠そうとしていたそうですが、Facebookの調査により、ジョージアにある広告代理店の「Panda」であることが明らかになっています。

これらのアカウントもしくはページのいずれかを1つでもフォローしていたアカウントの数は約44万2300件で、約5万2000件のアカウントがこれらのアカウントが作成したグループの少なくとも1つに参加しており、約2100人が削除されたInstagramアカウントの1つをフォローしていました。なお、Pandaはこれらのアカウントの宣伝活動に31万6000ドル(約3500万円)程度の広告費用をかけていたそうです。

Pandaの作成したフェイクアカウントによる投稿の一例は以下の通り。

もうひとつは、アメリカに拠点を置く「The BL」という広告代理店が運用としてたと思われるアカウント群。削除されたのは610件のFacebookアカウント、89件のFacebookページ、156件のFacebookグループ、72件のInstagramアカウントです。これらのアカウントはアメリカを拠点とするThe BLが作成したものですが、ベトナム語・スペイン語・中国語で投稿を行っており、これらの言語圏に向けた投稿であることが明らかになっています。

The BLはこれらのアカウントを用いて非常に高い頻度で投稿を行っており、投稿は自動化されていたとのこと。投稿には外部サイトへ誘導するURLが貼り付けられており、一部のアカウントはAIにより生成された画像をプロフィール写真に用いることで、アメリカ人を装っていたことも確認されています。また、The BLはアカウントをFacebookに削除されないようにするため、ページやグループをフェイクアカウントと通常のアカウントの両方を使って管理していた模様。

The BLの扱うアカウント群では、保守的なイデオロギーを主張したり、アメリカの政治ニュースや問題に関するウワサを流したりしていたそうです。これらの投稿はFacebookのポリシーに違反しているため、アカウント群は削除され、The BLもFacebookからブロックされることとなったとFacebookは記しています。

なお、The BLの扱うアカウントもしくはページを1つ以上フォローしていたアカウントの数は約5500万件、またThe BLの作成したグループに参加していたアカウントの数は38万1500件、The BLの作成したInstagramアカウントを1つ以上フォローしていたアカウントの数は約9万2000人です。加えて、The BLはFacebookおよびInstagramで950万ドル(約10億円)もの広告費をかけていたことも明らかになっています。

FacebookおよびInstagram上でフェイクアカウントを用いて不正な活動を行っていたThe BLは、2019年8月にNBC Newsが「トランプ大統領を支持する広報活動を行っている」と報じたEpoch Media Groupとの関係が指摘されています。

なお、Epoch Media Groupは海外メディアのThe Vergeに対して、The BLとの関係を否定していますが、The BLとEpoch Media Groupは不正投稿の中で同じ外部サイトへの誘導リンクを載せていたとThe Vergeは指摘しています。