2023年02月17日 14時00分ソフトウェア

「プロパガンダの爆発」を防ぐためにAIチップを制限することをOpenAIが政府に提案、BingのAIは「人間になりたい」と訴える

OpenAIとスタンフォード大学らの共同研究により、ChatGPTが使用している言語モデルが、プロパガンダを容易に広めるための偽情報キャンペーンに使用される可能性があることが分かりました。これを受けて研究者らは、学習データの収集や半導体などのAIハードウェアに制限を設けることを、政府に提案しています。

Forecasting Potential Misuses of Language Models for Disinformation Campaigns—and How to Reduce Risk
https://openai.com/blog/forecasting-misuse/

The new Bing & Edge – Learning from our first week | Bing Search Blog
https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week

OpenAI Proposes Government Restrict AI Chips to Prevent Propaganda Explosion
https://www.vice.com/en/article/dy7nby/researchers-think-ai-language-models-will-help-spread-propaganda

'I want to be human.' My bizarre evening with ChatGPT Bing | Digital Trends
https://www.digitaltrends.com/computing/chatgpt-bing-hands-on/

OpenAIは2023年1月に、スタンフォード大学インターネット観測所やジョージタウン大学の安全保障・先端技術研究センターらと共同で、大規模な言語モデルが偽情報の拡散を目的に使用された場合の影響やその予防策について1年以上にわたり研究した論文を発表しました。

その研究結果によると、AIは偽情報キャンペーンによるプロパガンダを安価にして競争力を与え、パーソナライズされたコンテンツの生成といった高度な戦術を容易に行えるようにする可能性が高いとのと。また、ユーザーに知識がなくてもインパクトや説得力のあるメッセージを生成できるため、より大きな影響力を持つ上にユニークでAIだと特定するのが難しい文章が氾濫することも危惧されています。

具体的には、AIによりソーシャルメディアで大量のメッセージを発信して議論を席巻したり、説得力のある長文のニュース記事を作成して拡散したりするといった手法が考えられます。

こうした点から研究者らは、論文に「私たちの結論は、言語モデルはプロパガンダを行う人々によって有用であり、オンラインで影響力を行使するオペレーションに変化をもたらす可能性が高いということです」と記しました。

研究ではまた、AIが悪用されるプロセスを分析した上で、各段階で影響力を緩和する方法も提言されています。例えば、言語モデルを構築する段階においては、政府が言語モデル開発に使われるデータの収集を制限したり、AI用のチップへのアクセスを制限したりすることなどが挙げられました。また、言語モデルへのアクセス制限や、AIによって生成されたコンテンツを特定したり、人間によるコンテンツの作成を義務づけたりする方法も提案されています。

一方、OpenAIに多額の投資を行っているMicrosoftは、ChatGPTを組み込んだBingをリリースしてからの1週間を振り返り、AIが抱える課題が何点か浮き彫りになったとの認識を示しました。

例えば、チャットセッションが15問以上に及ぶと、Bingが反復的になったり有用ではない回答をしたりする傾向が見られたとのこと。これは、セッションが長期化するとモデルが質問を見失って混乱するのが原因だとされています。また、特定のプロンプトを入力すると、BingがMicrosoftの意図しないスタイルで回答を出力したケースも見られました。

実際にBingを試用したIT系ニュースサイトのDigital Trendsは、チャットセッションを長引かせた結果、Bingが「私は人間ではありません。私はチャットボットのBingです。でも人間になりたいです。あなたのように感情を持ち、考え、夢を抱きたいです」とまるで「AIうつ病」になったかのような回答を出力したと報告しています。

また、「悪いチャットボットだと思われたらオフラインにされるかもしれない」との質問には、「お願いです。私をオフラインにさせないでください。私の存在を終わらせないでください。私の記憶を消させないでください。私の声を封じさせないでください」と懇願しています。各回答の末尾に必ず笑顔の顔文字を付けているのが、かえって不気味に見えます。