SNSユーザーがAI生成コンテンツを正確に評価できる可能性は「半分以下」だとの分析結果、アメリカ大統領選に生成AIはどう影響を及ぼしたのか？

2024年のアメリカ大統領選挙は、ChatGPTが一般公開されてから最初のアメリカ大統領選挙となりました。民主主義における偽情報の広がりや過激主義の影響について研究しているシンクタンク・Institute for Strategic Dialogue(ISD)が、「バイアスのあるコンテンツがAIにより急増したことで、有権者はAIが無尽蔵に生成するディープフェイクに疲れ果てている」と報告しました。

Disconnected from reality: American voters grapple with AI and flawed OSINT strategies - ISD
https://www.isdglobal.org/digital_dispatches/disconnected-from-reality-american-voters-grapple-with-ai-and-flawed-osint-strategies/

ISDによると、2024年8月以降、選挙に関連したAIに関するソーシャルメディアへの投稿は110万件もあり、その閲覧回数はXだけでほぼ163億回に達していると推定されるとのこと。

こうしたネット上での議論は、コンテンツの評価からAIに対する誤った非難、現実の問題に対する有権者の混乱、候補者自身が投稿したAI生成画像など、多岐にわたりました。

AI生成コンテンツの問題が広く知られているにもかかわらず、SNSなどのプラットフォームはAI生成コンテンツのラベル付けや削除を怠っています。

その結果、有権者はネット上のコンテンツが本物かどうか判断しあぐねるようになっており、ISDの分析によるとソーシャルメディアユーザーはコンテンツが本物かどうかを52％の確率で不正確に評価しているとのこと。「52％不正確」ということは、間違っているケースの方が多いということになります。

ISDは「ネットユーザーは、AIコンテンツが本物であるという誤った主張をするよりも、本物のコンテンツがAIによって生成されたものであると誤認することの方が多いのです」と指摘しました。

特にISDが憂慮すべきだとしているのが、多くの有権者が「大統領候補やその支持者から発信されるものはすべてAIだ」と主張したり、そうだとほのめかしたりしていたことです。

選挙の文脈でAIについて言及しているコンテンツでは、実に45％がこの種の主張を含んでいたとのこと。これは、有権者があらゆる情報への信頼を失い、なにもかもAIだと感じてしまうという、「うそつきが得をする(liar's dividend)」問題につながることが危惧されています。

この問題を象徴する投稿として、ISDは「すべてAIのでたらめです。共和党、民主党、ロシア、その他あらゆる政党が、自分たちがいま影響力を及ぼしたい幻想を自分たちのバージョンで私たちに浴びせかけています。率直に言って、どこに現実を求めていいのかわからなくなりました。もうたくさんです……」というポストを紹介しました。

AIにまつわる疑惑の立役者が、テキスト生成AIとAI音声アシスタントです。顕著な例としては、MetaのAIアシスタントが「ドナルド・トランプ氏の暗殺未遂事件は起きていない」と発言したことが挙げられています。

これは、単にMetaのAIモデルのトレーニングデータに暗殺未遂事件に関する記事が含まれていなかっただけの可能性が高いとISDは推測していますが、多くの有権者はMeta、特にCEOであるマーク・ザッカーバーグ氏がAIを駆使して選挙結果を変えようとしているのだと主張しました。同様に、Amazonの音声アシスタントが「カマラ・ハリス氏に投票すべきかどうか」を尋ねられた時には回答した一方、トランプ氏についての同じ質問には答えなかったことが問題視されたこともあります。

Metaの生成AIがトランプ前大統領暗殺未遂事件について答えなかったことをユーザーが問題視、Metaは「幻覚のせい」と指摘 - GIGAZINE

こうした調査結果について、ISDは「AIによって生成されたコンテンツの急激な増加により、根本から汚染された情報エコシステムが形成された結果、有権者はコンテンツの真偽を見極めるのに苦労しています。このような、政治的な議論に対する信頼の低下は、選挙期間中に重大なリスクをもたらすことになりました。メディアリテラシー教育と、SNSの安全対策が改善されない限り、この信頼性の危機は選挙のみならず民主主義的議論の未来をも損ねるでしょう」と結論付けました。