Pengacara Minta Maaf Setelah Kutipan Palsu yang Dihasilkan Claude Muncul dalam Kasus PHK Trump

Singkatnya

• Pengacara dalam kasus PHK federal meminta maaf setelah munculnya “kutipan phantom” yang dihasilkan AI dalam berkas pengadilan.
• Pengacara Jason Greaves mengatakan dia menggunakan Anthropic’s Claude Console di bawah “batas waktu yang ketat.”
• Berkas tersebut berasal dari sengketa subpoena yang terkait dengan PHK FEMA yang diperdebatkan di pengadilan federal.

Pertarungan pengadilan federal atas PHK pemerintahan Donald Trump menjadi contoh terbaru dari halusinasi AI yang masuk ke ruang sidang setelah pengacara mengakui mengajukan kutipan palsu yang dihasilkan oleh kecerdasan buatan. Dalam sebuah deklarasi yang diajukan pada hari Jumat, pengacara Jason Greaves mengakui bahwa berkas tersebut termasuk kutipan palsu yang dibuat setelah dia menggunakan Anthropic’s Claude Console untuk membantu menyiapkan mosi. “Dengan batas waktu yang ketat, saya menggunakan platform AI tingkat perusahaan yang terisolasi data, Claude Console, untuk membuat draf awal dari mosi tersebut. Itu adalah sebuah kesalahan,” tulis Greaves. “Pagi hari tanggal 6 Mei, saya mengirim draf tersebut ke seorang pengacara rekan, beserta instruksi lisan yang tegas bahwa draf tersebut berasal dari AI, dan saya membutuhkan kutipan tersebut diperiksa dengan cermat. Sore harinya, rekan tersebut memberi tahu saya bahwa dia telah meninjau dan memverifikasi setiap kutipan.”

Menurut Greaves, rekan tersebut mencatat bahwa dua kasus yang dikutip salah, tetapi dia menemukan kasus lain untuk dikutip.  “Sebagai mitra pengawas, dan penandatangan berkas tersebut, tanggung jawab untuk memastikan kutipan yang akurat sepenuhnya ada pada saya,” tambah Greaves. “Saya bertanggung jawab penuh atas hal itu dan meminta maaf sepenuhnya kepada pengadilan dan semua penasihat dalam kasus ini, atas kutipan phantom yang muncul dalam mosi tersebut. Saya juga secara pribadi telah meminta maaf kepada pengacara Para Penggugat.” Diluncurkan pada Maret 2023 sebagai Anthropic Developer Console, Claude Console adalah platform perusahaan Anthropic untuk berinteraksi dengan model AI Claude-nya, yang digunakan oleh bisnis dan profesional untuk menyusun draf, merangkum dokumen, pengkodean, dan penelitian.

Kasus ini menambah daftar sengketa pengadilan terkait AI yang semakin berkembang. Pada bulan April, pengacara dari firma hukum Sullivan & Cromwell dikenai sanksi setelah mengajukan kutipan hukum palsu yang dihasilkan oleh kecerdasan buatan. Kontroversi halusinasi AI terbaru ini berasal dari gugatan yang diajukan terhadap pemerintahan Trump terkait PHK massal di tingkat federal dan usulan perubahan perlindungan layanan sipil. Litigasi ini mencakup sengketa terkait pemotongan staf FEMA dan kesaksian dari mantan pejabat Keamanan Dalam Negeri Joseph Guy, yang pengacaranya mengajukan mosi tersebut. “Walaupun kasus yang dikutip mungkin secara umum mendukung posisi kami, saya mengakui kesalahan yang tidak dapat diterima karena memasukkan kutipan phantom,” tulis Greaves.