診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も

カナダ・オンタリオ州の監査総長事務所が州政府で使われているAIシステムを調べたところ、医療機関向けのAI医療記録作成システムで重大な誤りが相次いでいたことが分かりました。

Office of the Auditor General of Ontario
https://www.auditor.on.ca/en/content/specialreports/specialaudits/en2026/AR_2026_AI_EN.html

Ontario auditors find doctors' AI note takers routinely blow basic facts
https://www.theregister.com/ai-ml/2026/05/14/ontario-auditors-find-doctors-ai-note-takers-routinely-blow-basic-facts/5240771

問題となったのは、診察中の会話を録音して診療メモを自動作成する「AI Scribe」と呼ばれるシステムです。監査では承認済みの20システムを模擬診療録音で評価したところ、12システムが実際に処方された薬とは別の薬を診療メモに記録していたとのこと。

AI医療記録作成システムは、医師や看護師が患者との会話内容を後から手入力する手間を減らすためのツールです。しかし薬剤名や症状、治療方針をAIが誤ってまとめた場合、単なるメモのミスではなく、患者の診療内容に影響する可能性があります。

監査では薬剤名の取り違えだけでなく、録音中に話されていない内容をAIが勝手に追加する例も確認されました。20システム中9システムは、患者への治療計画に関する提案を作り出しており、「しこりは見つからなかった」「患者に不安症状がある」といった、録音には存在しない情報を記録した例もあったとのこと。また、17システムは患者のメンタルヘルスに関する重要な情報を見落としていました。

監査報告書では、審査時の評価方法にも問題があったことが指摘されています。AI医療記録作成システムの審査では、オンタリオ州内に拠点があるかといった「州内プレゼンス」が評価全体の30％を占めていました。一方で診療メモの正確性はわずか4％、バイアス対策は2％、脅威・リスク・プライバシー評価も2％と、医療現場で重要になる正確性や安全性がかなり低い比重で扱われていたわけです。

さらに、オンタリオ州の医師向け医療IT支援組織であるOntarioMDは医師に対してAI生成メモを手動で確認するよう推奨していましたが、承認済みシステムには医師の確認を必須にする機能がありませんでした。つまり、AIが作った誤った診療メモが、そのまま使われる余地が残っていたということになります。

なお、今回の監査は「承認済みAIシステムを模擬診療録音で検証する」というもので、実際の全診療現場で薬の取り違えが毎日発生していたという調査結果ではありません。それでも、医療向けAIが薬剤名・症状・治療方針といった基本情報を誤る可能性がある点は、導入前の審査や導入後の確認体制に大きな課題があることを示しています。

ニュースメディアのThe Registerによると、オンタリオ州保健省の広報担当者は「オンタリオ州では5000人以上の医師がAI Scribeプログラムに参加しており、同技術に関連した患者被害の既知の報告はない」と説明したとのこと。一方、監査報告書では「不適切な評価の重み付けにより、不正確な医療記録を作ったり、患者のプライバシー性が高い健康情報を十分に保護できなかったりするAIツールが選ばれる可能性がある」とリスクが指摘されています。