Firma hukum Wall Street Sullivan & Cromwell telah meminta maaf kepada hakim federal setelah berkas pengadilan menyertakan sekitar 40 kutipan yang salah dan kesalahan lain yang terkait dengan konten yang dihasilkan AI

Ringkasan

• Sullivan & Cromwell mengakui kesalahan yang dihasilkan AI yang masuk ke dalam berkas pengadilan meskipun ada kebijakan tinjauan internal yang ada.
• Andrew Dietderich mengatakan firma tersebut bertanggung jawab setelah kutipan palsu mencapai pengadilan kebangkrutan federal.
• Firma hukum tersebut meluncurkan tinjauan internal setelah firma pesaing menandai kesalahan dalam berkas tersebut.

Isu ini terungkap dalam surat yang dikirim oleh Andrew Dietderich, co-kepala tim restrukturisasi global firma, kepada Hakim Ketua Martin Glenn dari Pengadilan Kebangkrutan AS untuk Distrik Selatan New York.

Dietderich mengatakan berkas tersebut adalah bagian dari mosi darurat yang diajukan sembilan hari sebelumnya. Dia memberi tahu pengadilan bahwa firma tersebut menerima tanggung jawab atas kesalahan tersebut dan mengatakan langkah-langkah tinjauan yang ada tidak berfungsi seperti yang diharapkan dalam kasus ini.

Firma mengakui kesalahan pengajuan dan bertanggung jawab

Dalam surat tersebut, Dietderich mengatakan firma menyesal atas apa yang terjadi dan mengakui kewajibannya untuk memastikan bahwa pengajuan ke pengadilan akurat. Dia menulis, ”Kami sangat menyesal bahwa hal ini terjadi.”

Dia juga mengatakan, ”Firma dan saya sangat menyadari tanggung jawab kami untuk memastikan keakuratan semua pengajuan.” Dietderich menambahkan bahwa dia bertanggung jawab atas kegagalan yang terkait dengan pengajuan tersebut.

Berkas pengadilan tersebut berisi sekitar 40 kutipan yang salah dan kesalahan lain. Firma mengatakan masalah ini disebabkan oleh halusinasi AI dan kesalahan yang tidak terdeteksi sebelum pengajuan.

Dietderich mengatakan Sullivan & Cromwell sudah memiliki aturan internal untuk penggunaan AI. Aturan tersebut termasuk memeriksa kutipan sebelum materi diajukan ke pengadilan.

Kebijakan tinjauan AI yang ada tidak diikuti

Menurut Dietderich, firma memiliki kebijakan untuk mencegah masalah seperti ini, tetapi prosedur yang diperlukan tidak diikuti dalam kesempatan ini. Dia mengatakan proses tinjauan gagal mengidentifikasi kutipan palsu dan masalah lain.

”Sayangnya, proses tinjauan ini tidak mengidentifikasi kutipan tidak akurat yang dihasilkan oleh AI, maupun kesalahan lain yang tampaknya sebagian atau seluruhnya disebabkan oleh kesalahan manual,” tulisnya.

Kasus ini menambah daftar panjang pengajuan hukum yang terpengaruh oleh kesalahan AI. Sebuah basis data yang dikelola oleh teknolog hukum Damien Charlotin mencatat 1.334 insiden halusinasi AI dalam pengajuan pengadilan di seluruh dunia, dengan lebih dari 900 di antaranya di Amerika Serikat.

Charlotin mengatakan banyak dari kasus ini melibatkan kutipan yang dibuat-buat. Dalam beberapa kasus, argumen hukum yang dihasilkan AI juga muncul dalam pengajuan.

Tinjauan internal dimulai setelah firma pesaing menemukan kesalahan

Dietderich mengatakan Sullivan & Cromwell telah memulai penyelidikan internal tentang apa yang menyebabkan kesalahan tersebut. Dia mengatakan firma tersebut mengambil langkah perbaikan segera dan sedang meninjau apakah pelatihan tambahan atau pemeriksaan internal yang lebih ketat diperlukan.

Dia juga mencatat bahwa kesalahan tersebut dilaporkan kepada firma oleh firma hukum pesaing Boies Schiller Flexner LLP. Dietderich mengatakan dia menghubungi firma tersebut secara langsung untuk mengucapkan terima kasih dan meminta maaf.

Sullivan & Cromwell adalah salah satu firma hukum terbesar di Amerika Serikat berdasarkan pendapatan. Firma ini juga terlibat dalam kasus-kasus profil tinggi, termasuk mewakili FTX dalam kasus kebangkrutannya.

Insiden ini menambah perhatian baru terhadap risiko yang terkait dengan penggunaan AI dalam pekerjaan hukum, terutama ketika tinjauan manusia tidak menangkap kesalahan dasar sebelum pengajuan.