保険会社がAIを使って医療保障を不当に拒否したとの訴訟が起こされる

アメリカ最大の医療保険会社であるユナイテッド・ヘルスが「重大な欠陥のあるAIアルゴリズム」を使用して保障を拒否したとして、死亡した被保険者の遺族が訴訟を提起しました。

UnitedHealth uses AI model with 90% error rate to deny care, lawsuit alleges | Ars Technica
https://arstechnica.com/health/2023/11/ai-with-90-error-rate-forces-elderly-out-of-rehab-nursing-homes-suit-claims/

ミネソタ州連邦地方裁判所に提出された訴状によると、ユナイテッド・ヘルスは欠陥のあるAIを使用し、AIが打ち出した結果を支持し、保障を拒否したとのこと。ユナイテッド・ヘルスは、保険金の支払いに加え、ユナイテッド・ヘルスと提携した病院での薬の処方や歯科治療サービスといった医療サービスを提供しています。

ユナイテッド・ヘルスが使用していたAI「nH Predict」は、保険プランに加入している患者が転倒や脳卒中のような急性の怪我や病気を起こした後、どれくらいの入院期間や医療処置が必要になるかを推定するものでした。このAIがどれくらい正確に機能するかは不明ですが、およそ600万人の患者の医療事例を含むデータベースを参照することで推定するとされていて、ユナイテッド・ヘルスはAIが打ち出した結果を基に、リハビリプログラムの実施期間や介護施設の利用期間などの保障内容を決定していました。

nH Predictはユナイテッド・ヘルスの子会社であるNaviHealthが作成したものでしたが、NaviHealthの従業員からはnH Predictに懐疑的な声も上がっていたとのこと。今回の訴訟は、そうした従業員にインタビューを行うなどしてnH Predictを調べ上げたStat Newsの活動と並行して行われたものでした。

保険会社が「AIによる予測」を理由に高齢者への医療費の支払いを早々と打ち切るケースが社会問題に - GIGAZINE

Stat NewsがインタビューしたNaviHealthの元従業員、アンバー・リンチ氏によると、nH Predictは、患者に併存疾患がある場合や入院中に病気を発症した場合など、その他多くの関連要因を考慮していないとのこと。既存のプランでは100日間のケアを受けられるはずのものが、最大でも14日保障すれば十分と結論づけるなど、nH Predictの推定は非常に厳しいものでした。

こうしたAIが作られた背景には、ユナイテッド・ヘルスが「被保険者に提供するケアをできるだけ短く無駄のないものにする」という方針に転換したことがあると指摘されています。元従業員の証言によると、ユナイテッド・ヘルスが2020年にNaviHealthを買収して以来、患者へのケア提供期間を可能な限り短くし、病気・ケガの発生後のケアを無駄なく行うことなどが重視され、同社幹部などは「患者を老人ホームからできるだけ早く退院させるにはどうしたらいいのか」といった発言をしたこともあったそうです。

患者としてはできる限り長く保障を受けたいものですが、AIの予測に基づいた最低限のケアしか受けられず、貯蓄を切り崩すことを余儀なくされた人もいたとのこと。

ただし、患者は保険の適用内容を不服として申し立てることが可能です。今回の訴訟原告は、仮に被保険者全員が不服を申し立てた場合、その90％以上が認められるはずだと主張し、「ユナイテッド・ヘルスはAIが明らかに不正確な値を打ち出していることを理解しておくべきだった。アルゴリズムが誤って保険適用を拒否していることは明らかである」と訴えています。