人種に関するデータが存在しない医療システムで人種差別が行われてしまった理由とは？

by Firentis

アメリカの病院で使用されている医療用システムで、人種に関するデータを全く考慮しないにもかかわらず、黒人が不平等に扱われていることが判明しました。

Dissecting racial bias in an algorithm used to manage the health of populations | Science
https://science.sciencemag.org/content/366/6464/447

Millions of black people affected by racial bias in health-care algorithms
https://www.nature.com/articles/d41586-019-03228-6

A health care algorithm affecting millions is biased against black patients - The Verge
https://www.theverge.com/2019/10/24/20929337/care-algorithm-study-race-bias-health

アメリカの医療現場では、過去の病歴や健康診断の結果などから潜在的な健康リスクを予測して、病気の可能性が高い人に優先的に医療サービスを提供する医療システムが使用されています。こうしたシステムは機械学習により自動的に判断を行い、人種に関するデータも取り扱わないため、人間の医療従事者による偏見を防ぎ、公平かつ効率的な医療サービスの提供が可能と考えられてきました。実際、アメリカの大きな病院のほぼ全てにこの医療システムが導入されており、年間2億人の人々がこのシステムを通じて医療サービスを受けているとのことです。

by Prostock-studio

このシステムで人種差別が行われていることを突き止めたのは、カリフォルニア大学バークレー校の公衆衛生学部で医療について研究しているジアド・オーベルマイヤー氏らの研究グループです。白人と黒人の健康について研究していたオーベルマイヤー氏は、まずアメリカの複数の医療機関と協力して、医療システムにプライマリ・ケアの対象として登録されている患者のデータベースを作成。次に、別の医療記録から患者の人種を特定して、データベースと照合しました。

なお、人種の記録は患者の自己申告に基づいて作成されたもので、6079人の黒人と、4万3539人の白人やヒスパニック、人種不明といった黒人ではない人々が含まれていたとのこと。

研究グループが医療システムのデータベースと人種のデータを照合した結果、「同じ数の慢性疾患を抱えていても、黒人と非黒人とではシステムが評価する健康リスクのスコアが違う」ということが判明しました。以下が分析結果を示したグラフで、縦軸が慢性疾患の数、横軸が健康リスクのスコアを示しています。慢性疾患の数が同じ「4種類」でも、紫の線グラフで示された黒人患者のスコアは90なのに対して、非黒人患者では100となっており、有意な差があることがわかります。

研究グループは、人種に関するデータが存在しない医療システムで、一体なぜ黒人と非黒人とで大きな違いが出たのかを検証するため、医療システムのアルゴリズムを精査しました。その結果、アルゴリズムが「患者が過去にどれほどの医療費を必要としたか」のデータを参照して、医療ニーズを判定していることが分かりました。

既に病気になっている人や、病気になりやすい人には多くの医療費がかかるため、医療費を元に将来的な医療サービスの需要を予測するのは一見合理的なように思えます。また、黒人がそれ以外の人種に比べて使っている医療費が少ないというだけなら、単に黒人が体調を崩しにくいだけという可能性もあるため、提供される医療サービスが少なくても不適切な人種差別とはいえません。

by Prostock-studio

しかし、研究グループが医療記録を検証したところ、糖尿病・貧血・腎不全・高血圧などの病気はむしろ非黒人より黒人の方が多いほどで、黒人がそれ以外の人種に比べて医療サービスを必要としていないわけではないことが分かったとのこと。しかし、実際に黒人が医療を受けることで発生した年間医療費は、ほかの人種に比べて平均1800ドル(約20万円)も少ない額でした。この医療費の差が、黒人に対する不平等な扱いとして表面化してしまったと研究グループは推測しています。

技術系ニュースサイトのThe Vergeは、「黒人は貧しい生活を強いられているため、病院にかかりたくてもかかれない現状があります。また、過去に医療従事者から差別的な扱いを受けたため、病院に行きたがらないケースもあるかもしれません」と述べて、人間による根強い黒人差別が公正なはずの医療システムに影響を与えていると指摘しました。

一方で、オーベルマイヤー氏らは解決策も発見しています。医療システムを開発した民間企業と協力して、アルゴリズムを医療費以外のデータも参照するように調整したところ、スコアの偏りは84％も減少。その結果、要治療患者と判定される黒人患者の割合は17.7％から46.6％にまで増加したとのこと。

オーバーマイヤー氏は「アルゴリズムを調整することは簡単です。しかし、社会に内在する偏見と差別を正すことは容易ではありません」と話し、社会に残る人種差別の根の深さを改めて強調しました。