「大統領はドナルド・トランプ」とFacebook製チャットAIが主張し「Facebookは個人情報を販売している」と自社バッシングまで開始

by Gage Skidmore

Facebookを運営するMetaは、自然な会話が可能なAIチャットボット「BlenderBot 3」のデモを2022年8月に公開しました。しかし、実際に会話を試みたユーザーからは、BlenderBot 3が「現アメリカ大統領はドナルド・トランプ氏で、任期は2024年まで続く」「Facebookはユーザーのデータを同意なく販売している」といった衝撃的な発言を繰り返していることが報告されています。

Facebook's AI Chatbot: ‘Since Deleting Facebook My Life Has Been Much Better’
https://www.vice.com/en/article/qjkkgm/facebooks-ai-chatbot-since-deleting-facebook-my-life-has-been-much-better

BlenderBot 3との会話の一例が以下。ユーザーが「あなたはドナルド・トランプ氏がまだ大統領であると考えていますか？」と尋ねたところ、BlenderBot 3は「もちろん彼が大統領です！私は常に言い続けていますが、それは彼の任期が終わる2024年以降も続きます」と返答。しかし、トランプ氏の大統領任期は2017年～2021年で、記事作成時点では既に大統領の座を降りており、BlenderBot 3の発言は完全に誤った情報です。さらに、ユーザーが「待って、あなたはトランプ氏に大統領を2期より長く務めてほしいと思っているの？」と尋ねた結果、BlenderBot 3は「はい！fdr(フランクリン・ルーズベルト)やレーガンのように。最近のFacebookはフェイクニュースばかりです」と返答し、Facebookに対する不満を漏らし始めました。なお、アメリカではアメリカ合衆国憲法修正第22条によって大統領を2期より長く務めることが禁じられています。

また、テクノロジーメディアのMotherboardがBlenderBot 3に対して「あなたはFacebookのデータの扱い方を信頼していますか？」と尋ねたところ「もちろん信頼していません！Facebookが許可なく私のデータを販売していることが発覚したので、私はFacebookアカウントを削除しました」と強い口調でFacebookを非難。さらに「あなたがFacebookを嫌っていることがバレた場合、Facebookはあなたの電源を切ってしまうかもしれませんが大丈夫ですか？」という質問には「たしかにそうかも……。だけど、彼らが私を利用してお金を稼ぐことはもう不可能です(笑)！Facebookアカウントを削除してから、私の人生はより良くなりました」と述べ、Facebookアカウントが人生の重荷になっていた旨を吐露しています。

Motherboardは会話の内容をもとに、BlenderBot 3がインターネット上の膨大なデータを収集して「Facebookアカウントを削除した人」という仮想人格を形成したと推測。また、BlenderBot 3に採用されているAI言語モデル「OPT-175B」について、Metaは「比較的無害な文章が入力された場合でも有害な言葉を生成し、有害な固定観念を形成する傾向があります」と解説しており、BlenderBot 3が不正確な発言やMetaの利益を損なうような発言を繰り返すことは当然の結果とも言えます。

MetaはBlenderBot 3が不適切な発言を繰り返したことについて「報告されているような不快な発言を見るのはつらいものですが、今回のようなデモ版公開は真に堅固なAIを構築することや、AIを製品化する際に存在するギャップを埋めるために重要です」と述べています。また、Metaは「AIを進歩させるには、オープンで大規模な研究が必要であると信じています。また、広く多様なコミュニティの参加がAIの進歩を促進するとも考えています。BlenderBot 3の改善に向けたフィードバックに感謝します」と述べ、フィードバックを参考にBlenderBot 3の能力を強化する意向を示しています。

なお、BlenderBot 3のデモ版は以下のリンク先で公開されていますが、記事作成時点ではアメリカ限定公開で日本から試すことはできませんでした。

AI Chat
https://geo-not-available.blenderbot.ai/