AIで存在しない判例を生成した弁護士に5500ドルの罰金、さらに「教育が必要」との指導 – GIGAZINE

とある裁判でAIが生成した判例を引用した弁護士に対し、5500ドル(約81万円)の罰金支払いが命じられました。担当判事は弁護士に反省を促した上で、教育的指導を受けるべきだと指示しています。

InreMartin.pdf
(PDFファイル)https://websitedc.s3.amazonaws.com/documents/InreMartin.pdf

Judge sends ChatGPT-using lawyer to AI school with $5,500 fine after he’s caught creating imaginary caselaw: ‘Any lawyer unaware that using generative AI platforms to do legal research is playing with fire is living in a cloud’ | PC Gamer
https://www.pcgamer.com/software/ai/judge-sends-hangdog-lawyer-to-ai-school-after-hes-caught-using-chatgpt-to-cite-imaginary-caselaw-any-lawyer-unaware-that-using-generative-ai-platforms-to-do-legal-research-is-playing-with-fire-is-living-in-a-cloud/

2024年からクライアントの破産手続きを担当していたセムラド法律事務所所属のトーマス・ニール弁護士は、債権者であるコロナ・インベスターズに対する返済計画を作成しましたが、コロナ・インベスターズがこれを承諾せず、返済計画の実現可能性に異議申し立てを行いました。

これに対し、ニール弁護士は「コロナ・インベスターズには返済計画に異議を唱える資格がない」と反論し、その主張を裏付ける証拠として4件の判例を引用しました。

ところが、本件を担当したマイケル・スレイド判事が判例を精査したところ、4件全てに問題があることが分かったそうです。それぞれの問題点は以下の通りでした。

モントーヤ事件：弁護士が引用した文言は実際の裁判所記録に一切記載されていないだけでなく、該当の記録では資格の問題についてまったく触れていない
コールマン事件：この事件は管轄する州が違う上に、同じく引用した文言の記録がなく、資格については触れていない
ラッセル事件：管轄する州が違い、引用した文言の記録がない
ジャガー事件：この事件は存在しない

4件とも無関係な判例だったことに疑問を抱いたスレイド判事がニール弁護士に理由を聞いたところ、ニール弁護士はChatGPTを使ったことを認めました。

ニール弁護士は「これらの判例の引用部分については、おそらく……ある程度AIを通しましたが、引用が間違っているとは思っていませんでした。AIについて同様の使い方をしたことはこれまでありません。AIが提供したデータを精査しなかったのは、AIが判例をでっち上げるようなことはないと思っていたからです」と話しました。

スレイド判事の指摘を受け、ニール弁護士は「AIを法律研究に利用する際は、AIの成果物を全て確認する」と約束し、イリノイ州弁護士登録・懲戒委員会に自らを報告したと述べました。セムラド法律事務所も「人間の手による検証なしにAIを法律研究や引用文の生成に利用することを厳しく禁じる」と保証しました。

ニール弁護士とセムラド法律事務所は、「自主的に不適切な行為を認め、再発防止を約束し、本件における損害賠償請求を撤回し、法律学習プログラム(CLE)を受講した」として制裁を下さないよう求めましたが、スレイド判事は「彼らの正直さと努力は評価するが、それ相応の代償は必要だ」として、ニール弁護士らに5500ドルの制裁金を支払うよう命じました。

制裁を科す理由として、スレイド判事は「クライアント全員に十分なリソースを割けなかったのなら、他の法律事務所に一部を委任すべきであり、生成AIに頼るべきではなかった」「ニール弁護士はAIのリスクについて知らなかったと主張しているが、近年、AIのリスクを知らない弁護士は現実を知らないと言える。この問題は、少なくとも2023年から法曹界でホットトピックとなっているからだ」という2点を挙げています。

スレイド判事は「今回は控えめな制裁だと考える。次に同じことをした弁護士は、もっと重大な罰則を受ける可能性があると警告する」と指摘。「幸いなことに、全国破産裁判官会議がまもなく総会を開催する上、さらに幸いなことに総会では『人工知能の可能性と危険性』と題した全体会議が行われる。ニール弁護士とセムラド法律事務所のシニア弁護士は、該当の会議に直接参加するよう命じる」と付け加えました。