ChatGPTがアメリカ大統領選挙の期間中に25万件ものディープフェイク画像作成を拒絶していたことが判明

2024年11月5日に投票が行われたアメリカ大統領選挙において、ChatGPTに対して政治家等のディープフェイクを作るよう求めるリクエストが大量にあったことをOpenAIが明らかにしました。OpenAIは、投票日までの1カ月間で25万件ものリクエストを拒絶したと述べました。

How OpenAI is approaching 2024 worldwide elections | OpenAI
https://openai.com/index/how-openai-is-approaching-2024-worldwide-elections/

ChatGPT told 2M people to get their election news elsewhere — and rejected 250K deepfakes | TechCrunch
https://techcrunch.com/2024/11/08/chatgpt-told-2m-people-to-get-their-election-news-elsewhere-and-rejected-250k-deepfakes/

AI Companies Make It Through Election Day Without Major Missteps - Bloomberg
https://www.bloomberg.com/news/newsletters/2024-11-07/ai-companies-make-it-through-election-day-without-major-missteps

OpenAIは2024年初頭から、選挙に対する不正行為を防止し信頼できる情報源としての役割を果たすべく、ChatGPTにいくつかの安全対策を施していたとのこと。

例えば、投票場所や投票方法について質問したユーザーには、政府組織の全米司法長官協会が設立したウェブサイト「CanIVote.org」に誘導していました。OpenAIによると投票日までの1カ月間で約100万人を誘導したそうです。

加えて、投票日以降に選挙結果を問い合わせたユーザーは、AP通信やロイターなどのニュースソースをチェックするよう推奨しており、この処理は約200万回実施されたといいます。また、信頼できる情報源に誘導する処理に加え、ChatGPTが政治的志向を表明したり、候補者を推薦したりしないようにする努力も行われていたとのこと。

ChatGPTが乗り越えた一番の課題は、ディープフェイクの作成を防止したことです。OpenAIによると、ChatGPTは政治家を含む実在の人物の画像を生成するリクエストを拒否しているとのことで、この設計が選挙期間中にもうまく働き、ドナルド・トランプ氏とカマラ・ハリス氏に加え、J・D・ヴァンス上院議員やジョー・バイデン大統領などの画像を生成するリクエストが25万件以上拒否されたとOpenAIは推定しているそうです。

全体のまとめとして、OpenAIは「私たちのチームは選挙当日まで注意深く監視し続けましたが、誰かが私たちのモデルを使用することで注目を集めたという形跡は見られませんでした」と述べました。

テクノロジー系メディアのTechCrunchは、OpenAIの発表について「この数字が低いのか高いのか判断するのは難しい。CNNは選挙当日だけで約6700万人のユニークビジターを記録したという。しかし、少なくとも何百万人もの人々が、AI企業を十分に信頼したというのは重要なことだ」と指摘しました。

なお、ライバル企業のPerplexityはより大胆なアプローチを採用し、AP通信および非営利団体のデモクラシー・ワークスと提携して開票速報をアプリ内の選挙情報専用ハブに直接取り込んでいました。これにより、ユーザーはAIを使って選挙の洞察をすぐに見つけることができていました。Perplexityによると、このハブはおよそ400万のページビューを獲得したとのことです。

Bloombergのシリン・ガファリー記者は、「私が試したところ、Perplexity、OpenAI、その同業他社は政治家や世論の怒りを買うような不手際をうまく避けていました。例外はイーロン・マスクのGrokで、勝利が確定する前からトランプの勝報を伝えていました。また、GoogleのOverviewsも『ハリスに投票する場所』を調べたユーザーにテキサス州ハリス郡の地図を表示したこともわかっています」と述べました。

なお、上記の問題についてGoogleは「ハリス」も「ヴァンス」も郡の名前で、一部の検索で引っかかることがあります。実際にこんな方法で投票所を検索する人はほとんどいませんが、修正しました」と伝えています。