ChatGPTがでっちあげた存在しない過去の判例をそのまま採用した弁護士に5000ドルの支払いが命じられる

飛行機内で発生したいざこざについて航空会社を訴えた乗客の弁護士が「ChatGPTで出力した存在しない過去の判例」を提出した事件で、連邦判事が弁護士に5000ドル(約72万円)の支払いを命じ、航空会社を相手にした元の訴訟を棄却しことが分かりました。

Lawyers have real bad day in court after citing fake cases made up by ChatGPT | Ars Technica
https://arstechnica.com/tech-policy/2023/06/lawyers-have-real-bad-day-in-court-after-citing-fake-cases-made-up-by-chatgpt/

Lawyers fined $5,000 for using ChatGPT in brief | Fortune
https://fortune.com/2023/06/23/lawyers-fined-filing-chatgpt-hallucinations-in-court/

コロンビアの航空会社・アビアンカ航空のフライトに搭乗していた2019年8月に、配膳用カートが膝に当たり負傷したとして、乗客のロバート・マタ氏は2022年にアビアンカ航空を提訴しました。

この訴訟は当初ニューヨーク州裁判所で扱われていましたが、後にニューヨーク州南部地区連邦地方裁判所に移送されています。初めに州裁判所で事件を担当したLEVIDOW, LEVIDOW＆OBERMAN事務所のスティーブン・シュワルツ弁護士は連邦裁判所での弁護士資格は持っていなかったため、移送後に同じ事務所のピーター・ロデューカ弁護士に担当が代わり、裁判が進められました。

移送後も引き続き書類作成を担当したシュワルツ氏は、あろうことか文章生成AIのChatGPTを使用し、ChatGPTが出力した「存在しない過去の判例」をそのまま引用した意見書を作成します。この意見書を受け取ったロデューカ氏は内容を精査することなく自分の名前で裁判所に提出しました。

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明 - GIGAZINE

ありもしない事件が記載された意見書を見た裁判所や被告の弁護団は「内容が虚偽である可能性がある」と指摘し、ロデューカ氏らに内容を再確認するよう要請。この要請に対しロデューカ氏らは「意見書に記載された判例について詳しく述べた裁判所の見解」を提出しましたが、この見解もやはりChatGPTで出力した虚偽の見解であることが分かりました。

一連の事件を受け、連邦裁判所のケビン・カステル地方判事は「クライアントに損害を与え、裁判所の時間を浪費させ、相手方当事者の時間と費用を浪費させた」としてシュワルツ氏とロデューカ氏を非難し、2人合わせて5000ドルを支払うよう命じました。

なお、ロデューカ氏らが提出した意見書に説得力がないことが判明したため、カステル判事はアビアンカ航空が提出していた申し立てを認めて訴えを退けています。カステル判事は「2年の時効を定めたモントリオール条約に基づくと、原告の提訴は遅すぎる」と主張する被告側の意見に同意しました。

シュワルツ氏は後に提出した宣誓供述書の中で「今回の件が発生するまで、ChatGPTを法的な調査を行うための情報源として利用したことはなく、したがってその内容が虚偽である可能性については知らなかった」「ChatGPTというスーパー検索エンジンのような新しいサイトがあると聞き、それを使った」と証言しました。一方のロデューカ氏は「25年来の同僚であるシュワルツ氏が作成した文書が信頼に足るものであると信じていた」と主張しています。

カステル判事は2人の弁護士に支払いを命じるに当たり「これは抑止力であって、罰や賠償金ではない。というのも、優秀な弁護士は、若手弁護士や法学部の学生、データベースなどから適切に援助を受けているのが普通であり、AIはこうした手段に新たに加わったものだからである」「しかし、AIが生成するすべての書類は正確性をチェックされなければならない。当裁判所は、反省の弁を述べた被申請人らの誠意を信用する」と述べました。

ロデューカ氏らは5000ドルの支払いに加え、偽の判例に勝手に引用された本物の裁判官6人に対して報告書を提出するよう求められています。カステル判事は「謝罪を強制してしまうと、それは誠実な謝罪にはならない。報告書で謝罪するかどうかは、被告に委ねる」と述べ、あくまで報告書を提出することのみを義務としている点を強調しました。