イーロン・マスクが推し進めるAI「Grok」がユーザーにより投稿された「イランが攻撃開始」などのフェイクニュースをまとめて公式トレンドがめちゃくちゃに

イーロン・マスク氏は2023年にAIスタートアップの「xAI」を設立し、11月にはチャットAI「Grok」をリリースしました。しかし、悪意のあるユーザーが広めた偽のイラン攻撃ニュースがGrokによってまとめられ、X(旧Twitter)のトレンドに入ってしまったことが報告されています。

X's AI chatbot Grok made up a fake trending headline about Iran attacking Israel | Mashable
https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore

Investors in talks to help Elon Musk's xAI raise $3 billion, WSJ reports | Reuters
https://www.reuters.com/technology/investors-talks-help-elon-musks-xai-raise-3-billion-wsj-reports-2024-04-05/

Xは2024年4月4日、トレンドや検索画面が表示される「Explore」タブに関するアップデートを実施し、トレンドをクリックすると関連する上位の投稿に加えて「Grokで生成したトレンドに関するわかりやすい要約」をニュースのように表示する機能を追加しました。ところが、Grokにより事実ではない情報が要約され、まるで本当の出来事であるかのように表示されていることが判明しました。

2024年4月4日には、トレンドに「イラン、ヘビーミサイルでイスラエルのテルアビブを攻撃」との見出しが表示されましたが、記事作成時点でそのような事実はなく、フェイクニュースとされています。

この見出しをクリックすると、フェイクニュースを広める認証バッジ付きのアカウントによる投稿が多数確認されたとのことです。海外メディアのMashableは「フェイクニュースが広がっていることに気付いたXのアルゴリズムがトレンドを作成し、Grokがまるで事実のように見える要約を生成してしまったと考えられます」と述べています。

こうした事例はイラン・イスラエル問題だけでなく、Grokがただのジョークを本物の記事として扱ってしまうことも報告されています。以下の投稿では「ニューヨーク市警が地震発生を防ぐために1000人の警察官を動員。さらにはロボコップの出動も検討」といった要約が表示されていますが、これは明らかに真実ではなく、ユーザーのジョーク投稿がまとめられてしまったものです。

この件に関して複数のユーザーが「マスク氏がコンテンツモデレーションに関わる従業員を解雇したことが一因」と指摘しています。Xユーザーのhasanabi氏は「マスク氏が従業員を多数解雇した結果、トレンドとExploreが正しく情報を集約しなくなっています。『イランがテルアビブを攻撃している』といった偽のニュースが宣伝されてしまう要因は、マスク氏がモデレーションチームを解雇し、AIで情報を集約しているからです」と批判しました。

行動科学者のキャロライン・オア・ブエノ氏は「簡潔に言うと、マスク氏はGrokを使ってフェイクニュースの記事を作成し、自身のプラットフォームであるXを使ってそれを増幅し、拡散させ、ファクトチェッカーからも隠しています」と批判。さらに「マスク氏がなぜこのプラットフォームを購入したのか、これでお分かりでしょう。マスク氏は自分自身だけの現実を創りたいのです」と述べています。

なお、Grokを開発するxAIは、最大30億ドル(約4500億円)の資金調達を目指し、複数の投資家と交渉を実施していることが報じられています。この資金調達に成功すると、xAIの企業価値評価は180億ドル(約2兆7300億円)に上ることになります。