OpenAIが2024年の選挙ラッシュでAIが悪用されることを防ぐための施策を発表

2024年1月13日に実施された台湾総統選挙では、選挙の数カ月前からAIを悪用して生成された偽情報が拡散されました。2024年は台湾総統選挙以外にもアメリカ、インド、インドネシア、ロシアなど世界各国で選挙が実施される「選挙イヤー」となる予定ですが、AIを悪用した選挙への不当な干渉が懸念されています。そんな中、チャットAI「ChatGPT」や画像生成AI「DALL·E」などを開発するOpenAIが選挙でのAI悪用を防ぐための取り組みを発表しました。

How OpenAI is approaching 2024 worldwide elections
https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections

◆不正行為の防止
チャットAIを悪用すると、選挙に関する誤情報を大量かつ迅速に作成できてしまいます。OpenAIはチャットAI「ChatGPT」の悪用を防ぐために、ChatGPTと「ChatGPTのAPI」の使用ポリシーに以下の条項を追加しています。

・私たちは、私たちのツールがパーソナライズされた信条にどれだけの効果をもたらすのか検証中です。詳細が明らかになるまでは、政治運動やロビー活動に関連するアプリケーションの作成は許可しません。
・人々は実在の人物や企業、政府とやり取りし、信頼したいと考えています。このため、候補者などの実在の人物や地方自治体などの実在の組織を装うチャットボットの作成は許可しません。
・私たちは、民主的プロセスへの参加を妨害するアプリケーションの作成を許可しません。例えば、投票の日程や資格についての偽情報を伝えるアプリケーションや投票を思いとどまらせるようなアプリケーションの作成は許可されません。

また、OpenAIはオリジナルのチャットAIを作れるサービス「GPTs」を提供していますが、GPTsに「ユーザーが作成した暴力的なチャットAI」を報告する機能を追加しています。

◆AI生成コンテンツの透明性確保
OpenAIは画像生成AI「DALL·E」について「候補者を含む実在の人物の画像生成を防ぐガードレール」を組み込んでいることを明かしています。また、DALL·Eで生成した画像に「Content Credentials(コンテンツ認証情報)」を埋め込む機能を2024年の早い時期に搭載することも発表。さらに、画像が「DALL·Eで生成した画像であるか否か」を判断するツールも開発中で、当該ツールは生成画像に編集を施しても有効とされています。

ChatGPTで生成された文章についても、有権者が情報を適切に評価することを助けるために、既存の情報源にアクセスする機能やリアルタイムニュースにアクセスする機能が提供される予定です。

◆信頼できる投票情報へのアクセス
アメリカでは、ChatGPTに投票に関する質問をすると、National Association of Secretaries of State(NASS)が管理する選挙に関するサイト「CanIVote.org」へ誘導されるようになります。また、アメリカ以外の国や地域でも同様の施策が検討されています。

なお、チャットAI「Bard」などを展開するGoogleも2023年12月に選挙でのAI使用に関する施策を発表しています。Googleの施策の詳細は以下の記事で確認できます。

GoogleがBardで選挙関連のクエリを制限するなど、選挙関連のAI使用に制限 - GIGAZINE