「AIが捏造した参考文献」が含まれる生物医学論文が2023年から3年で12倍以上に急増、2026年には277件に1つという割合に

近年は科学者らが研究や論文執筆にAIを使うことが当たり前となっていますが、その過程でAIが虚偽の調査内容を作り出したり、存在しない架空の参考文献を記載してしまったりするケースがあります。250万件の生物医学論文に含まれる参考文献について調査した結果、合計2810件もの論文に偽の引用文献が記載されていることが判明しました。

Fabricated citations: an audit across 2·5 million biomedical papers - The Lancet
https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(26)00603-3/fulltext

Nearly 3,000 peer-reviewed medical papers have fake citations, a Columbia Nursing AI-assisted audit finds  | Columbia School of Nursing
https://www.nursing.columbia.edu/news/nearly-3-000-peer-reviewed-medical-papers-have-fake-citations-columbia-nursing-ai-assisted-audit-finds

AI hallucinations in research, legal filings, and books are growing and getting harder to fix | Fortune
https://fortune.com/2026/05/24/ai-hallucinations-scientific-research-authors-medical-journal-treatment/

アメリカのコロンビア大学看護学部およびデータサイエンス研究所のマキシム・トパーズ准教授は、医師や看護師がより良い意思決定を下すのを支援するAIについて研究しており、自身も科学論文の校正にAIツールを使用していました。ところが、最新の論文を提出してから数週間後のある日、掲載予定の学術誌から「参考文献に架空の出典が記載されている」という指摘が来たとのこと。

トパーズ氏は海外メディアのフォーチュンに対し、「私は非常に恥ずかしい思いをしました。私はAI研究者ですから、AIのハルシネーション(幻覚)についてはよく知っています。AIの専門家である私にさえこんなことが起こるなら、他の人には一体何が起こるのでしょうか？」と語っています。

そこでトパーズ氏らの研究チームは、世界中の臨床医や研究者が利用するデータベース・PubMed Centralに索引付けされた、2023年1月1日～2026年2月18日に発表された約250万件の生物医学論文を調査しました。AIを用いた自動検証システムにより、これらの論文に含まれている約9700万個の引用文献をチェックしたところ、2810件の論文に合計4046個の「架空の参考文献」が含まれていることがわかりました。

すべての架空の参考文献がAIによって生成されたとは限りませんが、その数は2023年から2026年にかけて12倍以上に増加しており、特にAIツールが普及した直後の2024年に急増していました。トパーズ氏は、「AIが架空の参考文献の急増と結びついていると考えるのは、当然のことです」と述べています。

以下のグラフは、縦軸が論文1万件あたりに含まれる架空の参考文献の数を示したもので、横軸が年月を示しています。2023年から2024年の中頃までは論文1万件あたり4個未満にとどまっていましたが、2024年の半ばからその数は急増し、2026年1月には57個に達しました。

2023年の段階では、論文2828件につき1個の架空の参考文献が発見されましたが、2025年には458件に1個という割合に増加。2026年最初の7週間では277件に1個となっていました。トパーズ氏は、「これは氷山の一角に過ぎないと思います」と語っています。

医学は積み重ねによって発展していく研究分野であり、臨床試験はさまざまな先行研究を引用し、体系的レビューはさまざまな臨床試験結果を統合し、最終的にこれらのレビューを引用して医療ガイドラインが作成されます。そのため、プロセスの初期段階に入り込んだ捏造(ねつぞう)はそこで終わりではなく、後の過程にまで反映されてしまうのです。

トパーズ氏は、「これがエビデンスの連鎖であり、私たちが人々をケアし、治療する方法なのです。架空の研究をその連鎖の一番下に置くと、構造全体がそれを引き継いでしまうのです」「医療従事者や臨床ガイドライン作成者は、依拠しているエビデンスが存在しないことに気づく術がありません。たとえば私たちが調査したある論文では、30件の参考文献のうち18件が偽の参考文献でした。これらの引用文献の中には、すでに他の論文で引用され、臨床ケアの指針となるシステマティックレビューにも掲載されているものがあります」と述べました。

研究で見つかった論文の大部分には架空の参考文献が1～2件ほどしか含まれておらず、これは捏造が意図的ではないことを示唆しています。しかし、学術出版業界は急増する架空の参考文献に対応する用意ができておらず、研究で見つかった架空の参考文献を含む論文のうち98.4％は、出版社によって撤回されていませんでした。

研究チームは調査結果に基づき、出版社に対して論文の参考文献を確認することを推奨しています。また、索引サービスが記録にメタデータを追加して参考文献の正確性を評価できるようにしたり、主要な研究倫理データベースが偽の参考文献について体系的に追跡したりすることも求めています。

科学者以外の専門家もAIを利用しており、その悪影響が至る所で明らかとなっています。調査によると、法律専門家の多くは法律調査や資料作成にAIツールを使用していますが、裁判文書に「AIが生成した存在しない判例」が紛れ込む事例が多数報告されています。

また、アメリカの作家であるスティーブン・ローゼンバウム氏が2026年に発表した著書『The Future of Truth: How AI Reshapes Reality(真実の未来：AIはいかに現実を再構築するか)』には、AIで生成された不適切な引用が多数含まれていることで物議を醸しました。なお、ローゼンバウム氏は執筆にAIを使用したせいでミスが生じたことを認めましたが、これからもAIを使い続けるとしています。

2018年にノーベル文学賞を受賞したポーランドのオルガ・トカルチュク氏も、執筆の調査作業においてAIを使用していることを公表し、大きな反発を招きました。国際的な文学賞であるコモンウェルス短編小説賞の2026年度受賞作についても、5作品中3作品が「生成AIで書かれた可能性が高い」と指摘されています。

国際的な短編小説賞を受賞した5作品中3作品が「生成AIで書かれた可能性が高い」と指摘される事態に - GIGAZINE