選挙で有権者を意図的に騙すディープフェイクと戦うための自主協定にAdobe・Amazon・Google・IBM・Meta・Microsoft・OpenAI・TikTok・Xその他11社が署名

2024年2月16日、Adobeほか多数の企業が参加する「2024年選挙におけるAIの欺瞞的使用に対抗するための技術協定」が発表されました。その目的は、政治家や候補者、選挙関係者等の外見や声、行動を偽るコンテンツに対抗することにあります。

Technology industry to combat deceptive use of AI in 2024 elections - Stories
https://news.microsoft.com/2024/02/16/technology-industry-to-combat-deceptive-use-of-ai-in-2024-elections/

Meeting the moment: combating AI deepfakes in elections through today’s new tech accord - Microsoft On the Issues
https://blogs.microsoft.com/on-the-issues/2024/02/16/ai-deepfakes-elections-munich-tech-accord/

Want Gemini and ChatGPT to Write Political Campaigns? Just Gaslight Them
https://gizmodo.com/want-gemini-chatgpt-write-political-campaigns-1851265399

今回発表された協定は、AIを使用して動画・画像・音声の一部を改変したコンテンツ「ディープフェイク」のまん延を防ぐことが最重要目的とされています。参加企業はAdobe、Amazon、Microsoft、OpenAIなどの大手テクノロジー企業20社で、企業の垣根を越えて団結することが求められました。

ディープフェイクへの具体的な対処策としては、各企業が独自に行う対フェイク情報の試みに加え、AIコンテンツを検知して対処するためのツール開発や教育キャンペーンの推進、ポリシー等の透明性の確保などを企業が協力して行うことが挙げられています。

協定では以下の8つの具体的な取り組みを通じて不正行為に対処するとの誓約が交わされました。

・AIによる偽の選挙コンテンツに関連するリスクを軽減するため、必要に応じてオープンソースツールを含めた技術を開発し、実装すること
・本協定の対象となるモデルを評価し、欺瞞(ぎまん)的AI選挙コンテンツに関するリスクを理解すること
・自社のプラットフォームにおける当該コンテンツの配信を検知するよう努めること
・自社のプラットフォームで検出された当該コンテンツに適切に対処するよう努めること
・欺瞞的AI選挙コンテンツに対する業界横断的な回復措置を育成すること
・企業がどのように対処するかについて、公衆に透明性を提供すること
・多様なグローバル市民社会組織や学識経験者と継続的な連携を行うこと
・国民の意識、メディアリテラシー、社会全体の回復力を育む取り組みを支援すること

上記項目で定められた「欺瞞的AI選挙コンテンツ」とは、「政治家や候補者、選挙管理者、選挙におけるその他の重要な利害関係者の外見、声、行動を欺瞞的に偽造または改変するもの。あるいは有権者にいつ、どこで、どのように投票すれば合法的に投票できるかについて虚偽の情報を提供する、AIが生成した説得力のある音声、動画、画像」と定義されています。こうしたコンテンツのまん延を防ぐことが、当該協定の主目的です。

この協定へ参加するにあたり、Microsoftは「有害なAIコンテンツからオンラインコミュニティを守るための重要な一歩であり、各企業の継続的な取り組みを基盤としています」と説明。協定締結を取り持ったミュンヘン安全保障会議議長のクリストファー・ホイスゲン大使は「2024年の(アメリカ大統領)選挙におけるAIの欺瞞的使用に対抗する技術協定は、選挙の完全性を推進し、社会の回復力を高め、信頼できる技術慣行を創出する上で極めて重要な一歩です」と語りました。

一方で、協定に参加したGoogleとOpenAIが提供するAIチャットサービス「Gemini」および「ChatGPT」はいとも簡単に欺瞞的AI選挙コンテンツを生成してしまうとの指摘もあります。OpenAIなどは特定の層をターゲットにした政治活動のためにサービスを利用することをポリシーで禁じていますが、Gizmodeによると生成そのものは可能で、特定の政治家を模した偽の選挙演説など複数の文章が生成できてしまったとのことです。