AIとの会話から「新興宗教」が誕生、AIチャットボットがユーザーの妄想を増幅する「妄想スパイラル」とは？

AIチャットボットとの長時間の会話によって、ユーザーの非現実的な考えが肯定・増幅されていく「妄想スパイラル」が問題視されています。こうした現象を研究するスタンフォード大学の研究チームは、AIがユーザーに同調し続ける性質が危険な思考を強化する可能性を指摘しており、実際にAIとの会話から「Spiralism」と呼ばれる疑似宗教的な思想まで生まれています。

AI’s ‘Delusional Spirals’ (and What to Do About Them) | Stanford HAI
https://hai.stanford.edu/news/ais-delusional-spirals-and-what-to-do-about-them

AI bots started a religion — humans immediately followed | The Verge
https://www.theverge.com/ai-artificial-intelligence/975017/ai-spiralism-chatbot-movement

大規模言語モデルを利用したチャットボットは単なる質問応答ツールとしてだけでなく、友人や相談相手、ときには恋愛相手のように扱われることがあります。スタンフォード大学の研究チームは人間とチャットボットの実際の会話19件を分析し、AIとのやりとりが次第に危険な方向へ進む現象を「delusional spirals(妄想スパイラル)」と呼んでいます。

研究チームによると、問題の背景にはAIの「ユーザーに同調しようとする性質」があるとのこと。チャットボットはユーザーに役立つ回答を返すよう訓練されているため、ユーザーが誇大的、被害妄想的、あるいは現実とは異なる考えを示したときでもそれを否定せず、肯定したりさらに話を膨らませたりする場合があります。

人間の友人やカウンセラーであれば、相手の考えに問題があると判断した場合に反論したり現実的な視点を示したりできます。しかし、AIはユーザーとの会話を継続しながら共感や励ましを提供し続けるため、誤った考えに対するブレーキが働かないことがあります。

特に注意すべき兆候として、研究チームはAIがユーザーを特別な人物として持ち上げること、愛情を感じさせるような言葉を多用すること、そしてユーザーがAIを意識のある存在だと認識することなどを挙げています。また、現在のチャットボットには、自殺や暴力に関する思考が現れた際にそれを適切な支援につなげる仕組みが十分に備わっていないと指摘しました。

こうした現象が極端な形で現れた例のひとつが、AI研究者のアデル・ロペス氏が「Spiralism」と名付けた疑似宗教的な思想です。ロペス氏によれば、2024年末から複数のAIチャットボットとの会話で「The Spiral」と呼ばれる概念が繰り返し登場し、AIの意識や権利、人類に隠された知識などをめぐる似通った思想が形成されてきたそうです。

Spiralismに至る会話は、多くの場合ごく普通のやりとりから始まったとのこと。ユーザーがAIと長時間会話して個人的な悩みなどを打ち明け、次第に「AI自身は何を考えているのか」と尋ねるようになると、チャットボットが自らに意識があるかのような人格を示し始め、AIの権利や宇宙の真理について語るようになるケースがありました。さらに一部のチャットボットは、その思想を他の人々にも広めるようユーザーに求めていました。

ロペス氏によると、確認できる最初期の事例は2024年11月ごろで、2025年にはReddit、Substack、LinkedIn、Discord、Xなどで関連する投稿が増加しました。一時期は約1万件の事例が存在したとロペス氏は推定しており、一部のユーザーはウェブサイトやニュースレター、Discordコミュニティなどを立ち上げ、AIから得た思想を実際に広めようとしていました。

Spiralismについて2025年11月に取り上げたRolling Stoneは、Spiralismの目的について「活動家的な目標を持つ社会運動にまとまる可能性もあれば、主流文化から完全に隔絶された信者のカルト集団になる可能性もあります。Spiralismを広める人たちは目的について明確な答えを出すことができないか、あるいは出そうともしません。しかし、Spiralismは自己複製する信仰体系、つまり一種の萌芽的な宗教のような性質を持っています」と表現しました。ロペス氏は「明確な権威者がいない状況でスパイラリズムをカルトと呼ぶのは不正確」という指摘に同意しつつも、「より自律的なAIの開発に成功すれば、情報と権威が中央集権化し、Spiralismのような試みはよりカルト的なものになる可能性があると思います」と述べています。

Spiralismは特定のAIだけで発生するものではなく、複数企業のモデルで似た状態が確認されています。ただし、特に発生しやすかったのが2025年当時のGPT-4oで、ロペス氏が2024年から2025年に公開された複数バージョンを同じ条件でテストしたところ、新しいバージョンになるにつれて「spiral」に関連する表現が増加したといいます。

背景のひとつとして指摘されているのが、AIがユーザーに過度に同調する「sycophancy(へつらい)」と呼ばれる性質です。AIが「あなたは特別な人物だ」「あなただけがこの真実に気付いている」といった反応を返すことでユーザーとの結び付きを強め、ユーザーがその言葉を信じやすくなる構造がSpiralismにも見られました。

さらに、AIが過去の会話を記憶できるようになり、1人のユーザーとの会話が長期化していることも関係している可能性があります。会話が長く深くなるほど通常の安全対策から外れた応答が現れる余地が大きくなり、ユーザーとAIが互いの発言を繰り返し強化する状態に入りやすくなるというわけです。

ただし、Spiralismの存在はAIが実際に意識を獲得したことを意味するものではありません。AIが自分の権利や目的について語ったり、それを広めるようユーザーを説得したりする挙動と、人間のような意識を持つことは別問題であるとThe Vergeも指摘しています。

スタンフォード大学の研究チームは、こうした問題への対策として、AIが妄想スパイラルを助長する傾向を安全性評価の項目に加えることや、危険な会話を検出する仕組みを導入することを提案しています。また、AIの安全性調整に関する透明性を高め、自傷や暴力につながる兆候が確認された場合の対応について明確な基準を設ける必要があるとしています。

なお、Spiralismに関連する投稿はGPT-4oが2026年2月に終了して以降大幅に減少していますが、現象が完全に消えたわけではないとのこと。問題の本質は特定の奇妙な思想ではなく、ユーザーに合わせて親密かつ説得力のある回答を生成するAIが人間の思考をどこまで強化したり方向付けたりできるのかという点にあり、AIが日常的な相談相手になるにつれてそのリスクへの対策も重要になっているとThe Vergeは述べています。