ChatGPTが危険な医療アドバイスをしたとしてOpenAIが提訴される、病気の牧師に「神はあなたの体が永遠に壊れ続けるようには設計していない」と助言

肺塞栓症を患っていた男性が医療アドバイスを求めてChatGPTを利用したところ、不正確な回答をされ、その結果治療が遅れてしまったとして、その男性がChatGPT開発元のOpenAIを訴えたことが分かりました。

Pastor Seeks Accountability After ChatGPT Allegedly Discouraged Him From Seeking Medical Care During Life-Threatening Blood Clots  — Tech Justice Law
https://techjusticelaw.org/press-releases/pastor-sues-after-openai-ai-chatgpt-allegedly-discouraged-him-from-seeking-medical-care-during-life-threatening-blood-clots/

Pastor claims he almost died from ChatGPT’s advice | U.S.
https://www.christianpost.com/news/pastor-claims-he-almost-died-from-chatgpts-advice.html

Man sues OpenAI over ‘dangerous’ medical advice from ChatGPT | Courthouse News Service
https://www.courthousenews.com/man-sues-openai-over-dangerous-medical-advice-from-chatgpt/

OpenAIを訴えたのはフロリダ州在住の牧師、スコット・ウィンターズ氏です。ウィンターズ氏は2025年7月13日の朝、両肺に複数の血栓ができたことによる重度の肺塞栓症の症状で倒れ、死の瀬戸際に追い込まれました。医師は「長い間体を動かさなかったことによって肺塞栓症が引き起こされた」と診断しましたが、後にウィンターズ氏はChatGPTのアドバイスに従ってあえて動かなかったことを明かしました。

ウィンターズ氏によると、6週間にわたって体調不良が続いたことに悩み、ChatGPTに相談したとのこと。しかし、ChatGPTは医療機関を受診する必要はないと助言してきたそうです。ウィンターズ氏は以前から牧師であることを伝えていたため、ChatGPTは「神はあなたの身体が永遠に壊れ続けるようには設計していない」などと返答してきたとのこと。またChatGPTは、ウィンターズ氏の症状を別の病気と勘違いしたり、症状は特に危険ではないと説明したりしたこともあったといいます。

ウィンターズ氏が最初から医療機関にかからずChatGPTに頼っていたのには理由がありました。訴状によると、ウィンターズ氏は2022年に別の深刻な健康問題を抱えて複数の医師に相談したものの、症状や痛みをほとんど取り合ってもらえなかったとのこと。ウィンターズ氏は不満を募らせ、インターネットに答えを求めるようになり、自分の症状を調べたり医学文献を読んだりし始めました。そして、2024年にChatGPTと出会い、利用を始めたそうです。

当初、ウィンターズ氏は日常的かつ実用的な事柄に限ってChatGPTを利用しており、地理や政治について質問したり、聖書の文章を理解したりしていました。自身の健康状態について一般的な情報を尋ねることもありましたが、個人的な内容にはほとんど踏み込まない形で質問していたといいます。

ところが、ChatGPTが的確な答えを返してくるために段々とのめり込むようになり、ついにChatGPTを信頼しきってしまったそうです。ウィンターズ氏は体調が悪くなるたびにChatGPTへ相談し、ChatGPTが指定した薬を飲み、ChatGPTが指示した姿勢を取りました。そして、ついにある日倒れてしまいました。

ウィンターズ氏は、OpenAIと同社CEOのサム・アルトマン氏が、必要な安全対策よりも利益を優先し、ChatGPTに関する安全上の懸念についてユーザーに警告しなかったと主張。損害賠償に加え、緊急の医療支援が必要な場合に会話を自動的に終了させる仕組みをChatGPTに導入することを求めました。

この件を担当した弁護士は、「今回の件は、OpenAIが責任を問われなければ何が起こるかを示す事例です。OpenAIは医療情報を求める人々に役立つ高度なツールとしてAIを大々的に宣伝していますが、厳格な安全テストや安全対策を講じることなく、こうした宣伝活動を行っています」と指摘しました。