Адвокати вибачаються після появи фальшивих цитат, згенерованих Claude, у справі про звільнення Трампа

Коротко

• Юристи у справі про федеральні звільнення вибачилися після появи у судовому документі штучно згенерованих «фантомних цитат».
• Адвокат Джейсон Грівз заявив, що він використовував Anthropic’s Claude Console у «жорстких часових обмеженнях».
• Документ виник у зв’язку з спором щодо повістки, пов’язаного з звільненнями у FEMA, оскаржуваними у федеральному суді.

Боротьба у федеральному суді щодо звільнень адміністрації Дональда Трампа стала останнім прикладом того, як AI-галюцинації потрапляють до зали суду після того, як адвокати визнали подання сфабрикованих цитат, згенерованих штучним інтелектом. У заяві, поданій у п’ятницю, адвокат Джейсон Грівз визнав, що у документі були фальшиві цитати, створені після того, як він використав Anthropic’s Claude Console для підготовки клопотання. «З огляду на жорсткі часові обмеження, я використав корпоративну, ізольовану платформу штучного інтелекту, Claude Console, для створення початкового проекту клопотання. Це була помилка», — написав Грівз. «Вранці 6 травня я надіслав проект асоційованому адвокату разом із чіткими усними інструкціями, що цей проект створений AI, і мені потрібно ретельно перевірити посилання. Того ж дня пообіді асоційований адвокат повідомила, що вона переглянула та підтвердила кожне посилання.»

За словами Грівза, асоційований адвокат зазначила, що дві цитати були неправильними, але вона знайшла інше судове рішення для цитування.  «Як керівний партнер і підписант документа, відповідальність за точність посилань цілком лежить на мені», — додав Грівз. «Я беру на себе повну відповідальність за це і щиро вибачаюся перед судом і всіма адвокатами у цій справі за фантомні цитати, що з’явилися у клопотанні. Також я особисто вибачився перед адвокатами позивачів.» Запущена у березні 2023 року як Anthropic Developer Console, Claude Console — це корпоративна платформа Anthropic для взаємодії з моделями Claude AI, яку використовують бізнеси та фахівці для складання проектів, підсумовування документів, програмування та досліджень.

Ця справа додає до зростаючого списку судових спорів, пов’язаних із AI. У квітні адвокати юридичної фірми Sullivan & Cromwell були оштрафовані після подання фальшивих юридичних посилань, згенерованих штучним інтелектом. Ця остання суперечка щодо AI-галюцинацій виникла через позови проти адміністрації Трампа щодо масових федеральних звільнень та запропонованих змін до цивільної служби. Судові процеси включають спори, пов’язані з скороченнями штату FEMA та свідченнями колишнього посадовця Міністерства внутрішньої безпеки Джозефа Гая, чиї адвокати подали клопотання. «Хоча наведені судові рішення загалом підтримували нашу позицію, я визнаю неприпустиму помилку у допущенні фантомних цитат», — написав Грівз.