AIは黒人と女性の病気を見逃してしまう、胸部X線写真の分析で判明

カリフォルニア大学ロサンゼルス校の研究チームが、スタンフォード大学で2022年に開発された「CheXzero」というAIモデルによる疾患検出の精度を検証した結果、黒人や女性の患者における疾患の検出で偏りがあったと報告しています。

Demographic bias of expert-level vision-language foundation models in medical imaging | Science Advances
https://www.science.org/doi/10.1126/sciadv.adq0305

AI models miss disease in Black and female patients | Science | AAAS
https://www.science.org/content/article/ai-models-miss-disease-black-female-patients

CheXzeroは胸部X線画像から疾患を検出するために使われているモデルです。研究チームが666枚の胸部X線画像のサブセットを用いて検証したところ、黒人患者や女性患者、また40歳以下の患者だと、医師が診断した疾患を検出できない率が高いことが判明しました。

特に黒人女性が患者の場合、半数のケースで心肥大などの状態を検出できなかったとのこと。これらの問題はスペインやベトナムなど他の地域のデータセットでも同様に観察されました。

研究チームはバイアスの原因を探るため、CheXzeroが胸部X線画像から患者の性別、年齢、人種を予測できるかをテストしました。その結果、AIは約80％の精度で人種を識別できたのに対して、経験豊富な放射線科医による同様のテストでは最高でも約50％の成功率にとどまりました。このことから研究者は「放射線画像内には、人間が視覚的に識別できない隠れたシグナルがある可能性がある」と述べています。

バイアスを軽減するため、研究チームは意図的に患者の人種、性別、年齢の情報をX線画像と共にAIに提供しました。その結果、「見逃し」診断率は半分に減少しましたが、効果があったのは一部の疾患に対してのみでした。

研究チームは、CheXzeroの訓練に使用されたデータセットには男性、40-80歳の年齢層、および白人患者が多く含まれていることを指摘し、より多様なデータセットの必要性を訴えています。

エモリー大学の放射線科医であるジュディ・ギコヤ医師は、「明らかなのは、AIの持つバイアスを軽減することは非常に困難だということです」と述べ、AIをテストして欠陥を特定し、まずは小規模ながら多様なデータセットで修正することを提唱しています。ギコヤ医師は「診断には人間が関わる必要があります。AI単独には任せられません」とコメントしました。