AIで生成した偽の判例を使用した弁護士に1万5000ドルの罰金

とある裁判の抗弁に際しAIで資料を生成したせいで、この世に存在しない判例を引用したことになった弁護士について、計1万5000ドル(約224万円)の罰金支払いが勧告されたことがわかりました。

sanctions rr.pdf
(PDFファイル)https://assets.law360news.com/2301000/2301530/sanctions%20rr.pdf

Texas Atty Dinged For AI-Generated Fake Citations In Briefs - Law360 Pulse
https://www.law360.com/pulse/articles/2301530/texas-atty-dinged-for-ai-generated-fake-citations-in-briefs

Lawyer faces $15,000 fine for using fake AI-generated cases in court filing | TechSpot
https://www.techspot.com/news/106915-lawyer-faces-15000-fine-using-ai-generated-fake.html

2024年10月、HooserVac LLCという企業の退職金を巡る訴訟で代理人を務めたラファエル・ラミレス弁護士は、裁判所の決定に対する異議申立てにおいて、3つの準備書面を提出しました。

ところが、この書面で引用された過去の判例の中に実在しないものが含まれていたとのことです。

裁判所が引用元の判例を確認できなかったためラミレス弁護士に説明を求めたところ、ラミレス弁護士は生成AIツールを使用して文書を起草したことを認め、謝罪しました。同氏いわく、AIが虚偽の情報を生み出す可能性については認識しておらず、生成されたテキストは信頼できるものと考えていたとのことです。

連邦民事訴訟規則第11条においては、弁護士は自分が提出した情報の正当性を保証しなければならないとされていることから、連邦地方裁判所のマーク・J・ディンスモア判事はラミレス弁護士に過失があったと認定。「書面において判例を適切に引用することは弁護士の基本的な仕事であり、この義務を果たさない点は正当化できない」として、準備書面1通につき5000ドル(約75万円)、合計1万5000ドルの罰金を勧告しました。

なお、1通につき5000ドルという金額については、過去に発生した同様の事例が参考にされました。2023年、飛行機に搭乗した乗客の弁護を担当したスティーブン・シュワルツ弁護士は、書類作成においてChatGPTを利用し、内容を精査することなくそのまま裁判所へ提出しました。この件でシュワルツ弁護士に支払いが命じられた罰金額が5000ドルでした。

ChatGPTがでっちあげた存在しない過去の判例をそのまま採用した弁護士に5000ドルの支払いが命じられる - GIGAZINE

合計1万5000ドルもの罰金を勧告したことについて、ディンスモア判事は「この金額はこれまで科せられた罰金の中でも高額ではあるが、ラミレス氏がAIの特性について無知であると公言したことを鑑みるに、既存の制裁が不十分であったと言わざるを得ない」と指摘しています。

加えてディンスモア判事は「AIが本質的に悪いものである、あるいは弁護士によるAI利用が禁止されるべきであるといったことを言いたいのではない。便利なチェーンソーが潜在的に危険であるのと同じように、人は自分が使っている道具を理解し、その道具を慎重に使わなければならないということである。AIは弁護士の倫理的・職業的義務に準じて使用しなければならないことは言うまでもない」との意見を示しました。

なお、ラミレス弁護士はその後AIの使用に関する法律教育コースを受講し、AIツールの使用を続けているとのことです。