GoogleがBardで選挙関連のクエリを制限するなど、選挙関連のAI使用に制限

2024年にはアメリカ大統領選挙を含む、多くの選挙が世界中で行われます。Googleは自社プラットフォームが選挙で悪用されることを防ぐため、AIを用いた不正行為に対する取り組みを強化すると発表しました。これにより、Bardでは選挙関連のクエリが制限されるなど、さまざまな制限が課されています。

How we’re approaching the 2024 U.S. elections
https://blog.google/outreach-initiatives/civics/how-were-approaching-the-2024-us-elections/

Supporting the 2024 United States election - YouTube Blog
https://blog.youtube/inside-youtube/supporting-2024-united-states-election/

Google makes a preemptive move for the 2024 election, will limit election-related queries with generative AI | Android Central
https://www.androidcentral.com/apps-software/google-to-limit-election-related-search-queries-generative-ai

過去数年間にわたり、Googleは世界中で数多くの選挙を支援してきました。選挙サイクルが進むたび、有害なコンテンツに対する保護を強化し、信頼できるエクスペリエンスを作成するため、Googleは自社AIモデルに新たなトレーニングを適用し続けています。

Googleは自社プラットフォームを保護するために、「操作されたメディア」「憎悪と嫌がらせ」「暴力の扇動」「民主主義のプロセスを損なう可能性のある明らかに虚偽の主張」などの分野にどのように対処するかを知らせるポリシーを定めています。10年以上にわたり、Googleは機械学習分類器とAIを活用してこのポリシーに違反するコンテンツを特定・削除してきましたが、現在は大規模言語モデル(LLM)の進歩に伴い、より高速で適応性の高い施行システムの構築を実験しているそうです。なお、Googleはこの実験中の新しいシステムについて、「初期の結果は、機敏さを保ちながら新たな脅威が出現した時に迅速に行動を起こすことができることを示しています」と記しました。

また、GoogleはSearch Generative Experience(SGE)やBardなどの生成AI製品の導入に原則的かつ責任あるアプローチを取ることに注力しており、サイバーセキュリティの脆弱性から誤情報や公平性まで、安全性リスクのテストを優先しています。2024年の選挙期間に備え、GoogleはSGEとBardが回答で出力する選挙関連のクエリの種類を制限すると発表しました。

他にも、Googleは選挙戦で生成AIを用いて自社プラットフォームが悪用されることを防ぐために、以下の施策を導入しています。

・広告の開示
GoogleはAIツールなどによりデジタル的に変更または生成されたリアルな合成コンテンツが広告に含まれる場合、選挙広告主に対して目立つように開示することを義務付けます。

・コンテンツラベル
今後数カ月で、YouTubeはクリエイターに対して現実的な改変コンテンツや合成コンテンツをいつ作成したかを開示するよう義務付け、視聴しているコンテンツが合成コンテンツであることをユーザーに示すラベルを表示する予定です。

・追加のコンテキスト
SGEのコンテキスト機能とBardのダブルチェック機能により、ウェブ上にBardの英語による応答を裏付けるコンテンツがあるかどうかを評価できるようになります。

「検索でこの画像について」機能を利用することで、オンライン上で見つかった画像の信頼性とコンテキスト評価が可能になります。

・電子透かし
Google DeepMindのベータ版ツールであるSynthIDにより、AIが生成した画像と音声データに電子透かしが直接埋め込まれることとなります。

選挙期間中、人々はGoogleを使って候補者や有権者の登録期限、投票所の場所などの情報を検索します。ユーザーが必要な情報を簡単に見つけられるように、Googleは以下の施策を実施しているとアピールしました。

・検索
Democracy Worksなどのパートナーと協力し、投票方法や投票場所などのトピックを検索する際に、州および地方選挙事務所からの信頼できる情報を、検索結果の上部に表示します。過去の選挙同様、GoogleはAP通信と協力して信頼できる選挙結果をGoogle上で公開していくようです。

・ニュース
Googleは2022年から、各州の信頼できる選挙関連ニュースがGoogleニュースに掲載されるように追加のニュース機能を提供しています。

・YouTube
YouTubeは質の高い選挙ニュースや情報をユーザーに届けるための適切な措置を講じています。

・地図
投票所の場所を明確に強調表示し、使いやすい道順を提案します。悪意のある人がマップ上で選挙関連のスパムを作成することを防ぐために、政府庁舎などのコンテンツには強化された保護が適用されます。

・広告
Googleは選挙広告の掲載を希望する広告主に対して、身元確認プロセスを経て「誰が広告費を支払ったか」を明確に示す「広告内開示」を義務付けています。この結果は政治広告に関する透明性レポートにも掲載されます。

選挙期間は、サイバーセキュリティのリスクが高まります。Googleの高度な保護プログラムは、選挙で選ばれた役人、候補者、選挙活動員、ジャーナリスト、選挙職員、その他の選挙期間にサイバーセキュリティリスクが高くなる個人が利用できます。また、GoogleはDefending Digital Campaigns(DDD)との長年にわたるパートナーシップを拡大し、Google Workspaceのセキュリティ機能を迅速に構成するツールなど、オンライン上での安全を保つために必要なセキュリティツールを提供します。すでにGoogleは2023年にDDDなどのパートナーを通じてリスクの高いユーザーに10万個の無料のTitanセキュリティキーを配布済みです。2024年にもGoogleは10万個のTitanセキュリティキーを配布予定です。

Googleの脅威分析グループ(TAG)とMandiant Intelligenceは、新たな脅威の特定・監視・対処を支援します。例えば、TAGは毎日50カ国以上で270以上の標的型攻撃者グループまたは政府支援の攻撃者グループを追跡しているそうです。また、官民セクターが常に警戒し十分な情報を得られるように、それぞれの調査結果を公開しています。また、Mandiant Intelligenceは組織が総合的な選挙セキュリティプログラムを構築し、プロアクティブな侵害評価サービスから情報操作の脅威インテリジェンス追跡に至るまで、包括的なツールを使用してセキュリティを強化するのに役立つツールを提供しています。