ウォール街の法律事務所サリバン＆クロムウェルは、裁判所提出書類に約40件の誤引用やその他のエラーがAI生成コンテンツに関連して含まれていたことを受けて、連邦判事に謝罪した

概要

• サリバン＆クロムウェルは、内部審査ポリシーが存在しているにもかかわらず、AI生成の誤りが裁判所提出書類に入り込んだことを認めた。
• アンドリュー・ディッダリッチは、誤った引用が米国連邦破産裁判所に届いた後、同事務所が責任を取ったと述べた。
• 競合事務所が提出書類の誤りを指摘した後、同法律事務所は内部調査を開始した。

この問題は、アンドリュー・ディッダリッチ氏がニューヨーク南部連邦破産裁判所のマーティン・グレン裁判長宛てに送った手紙で明らかになった。

ディッダリッチ氏は、その提出書類は9日前に提出された緊急動議の一部であると述べた。彼は裁判所に対し、事務所は誤りについて責任を認めており、既存の審査手順がこのケースでは意図した通りに機能しなかったと伝えた。

事務所は提出書類の誤りを認め、責任を受け入れる

手紙の中で、ディッダリッチ氏は、事務所は今回の出来事を遺憾に思い、その裁判所提出資料の正確性を確保する義務を認識していると述べた。彼は、「このような事態が発生したことを深く遺憾に思います」と書いた。

また、「事務所と私自身は、すべての提出物の正確性を確保する責任を痛感しています」とも述べた。ディッダリッチ氏は、提出に関わる失敗について責任を取ると付け加えた。

提出書類には約40件の誤った引用やその他のエラーが含まれていた。事務所は、これらの問題はAIの幻覚や誤りによるもので、提出前に発見されなかったと説明している。

ディッダリッチ氏は、サリバン＆クロムウェルにはすでにAI使用に関する内部規則があると述べた。これらの規則には、資料を裁判所に提出する前に引用を確認することが含まれている。

既存のAI審査ポリシーは遵守されなかった

ディッダリッチ氏によると、事務所にはこの種の問題を防ぐための方針があったが、今回は必要な手順が守られなかったという。彼は、審査プロセスが誤った引用やその他の問題を特定できなかったと述べた。

「残念ながら、この審査過程ではAIによって生成された不正確な引用を特定できず、また、手動の誤りに起因すると思われる他の誤りも発見できませんでした」と彼は書いた。

このケースは、AIの誤りによる法的提出書類の問題の増加に一層の注目を集めている。法技術者のダミアン・シャルトラン氏が運営するデータベースは、世界中の裁判所提出書類におけるAI幻覚の事例を1,334件記録しており、そのうち900件以上が米国に集中している。

シャルトラン氏は、多くのケースで架空の引用が含まれていると指摘している。中には、AI生成の法的議論が提出書類に現れた例もある。

競合事務所が誤りを指摘し、内部調査を開始

ディッダリッチ氏は、サリバン＆クロムウェルが誤りの原因を調査するための内部調査を開始したと述べた。彼は、事務所が即座に是正措置を取り、さらなる研修や内部チェックの強化が必要かどうかを検討していると語った。

また、誤りは競合のボイズ・シラー・フレクスナーLLPによって指摘されたことも付け加えた。ディッダリッチ氏は、同事務所に直接連絡し、感謝と謝罪を伝えた。

サリバン＆クロムウェルは、米国最大級の法律事務所の一つであり、収益規模でもトップクラスである。同事務所は、FTXの破産事件などの高名な案件にも関与している。

この事件は、法務におけるAI使用のリスクに新たな注目を集めており、特に人間のレビューによって基本的な誤りが提出前に見逃される場合の危険性を浮き彫りにしている。