Адвокаты приносят извинения после появления поддельных цитат, сгенерированных Claude, в деле о сокращениях в компании Трампа

Вкратце

• Юристы по делу о федеральных увольнениях извинились после появления в судебном документе «фантомных цитат», созданных ИИ.
• Адвокат Джейсон Гривз заявил, что он использовал Anthropic’s Claude Console в условиях «жестких временных ограничений».
• Документ был подготовлен в связи с спором о повестке, связанном с увольнениями в FEMA, оспариваемыми в федеральном суде.

Бой в федеральном суде по поводу увольнений при администрации Дональда Трампа стал последним примером появления галлюцинаций ИИ в зале суда после того, как адвокаты признались в подаче сфабрикованных цитат, созданных искусственным интеллектом. В заявлении, поданном в пятницу, адвокат Джейсон Гривз признал, что в документе содержались поддельные цитаты, созданные после того, как он использовал Anthropic’s Claude Console для подготовки ходатайства. «Учитывая жесткие временные ограничения, я использовал корпоративную, изолированную платформу ИИ, Claude Console, для создания первоначального проекта ходатайства. Это была ошибка», — написал Гривз. «Утром 6 мая я отправил проект помощнику-адвокату, сопровождая его устными указаниями, что проект создан ИИ, и что мне нужно тщательно проверить цитаты. В тот же день, помощник сообщил мне, что он просмотрел и проверил каждую цитату.»

По словам Гривза, помощник отметил, что две цитируемые дела были неправильными, но он нашел другую судебную практику для цитирования.  «Как руководитель проекта и подписант документа, ответственность за точность цитат полностью лежит на мне», — добавил Гривз. «Я беру на себя полную ответственность за это и полностью извиняюсь перед судом и всеми юристами по делу за фантомные цитаты, появившиеся в ходатайстве. Я также лично извинился перед адвокатами истцов.» Запущенная в марте 2023 года как Anthropic Developer Console, Claude Console — это корпоративная платформа Anthropic для взаимодействия с моделями Claude AI, которые используют бизнесы и профессионалы для составления черновиков, суммирования документов, программирования и исследований.

Дело дополняет растущий список судебных споров, связанных с ИИ. В апреле адвокаты из юридической фирмы Sullivan & Cromwell были оштрафованы за подачу фальшивых юридических цитат, созданных искусственным интеллектом. Этот последний скандал с галлюцинациями ИИ возник в связи с исками против администрации Трампа по поводу массовых федеральных увольнений и предложенных изменений в гражданской службе. В иске рассматриваются споры, связанные с сокращением штатов FEMA и показаниями бывшего сотрудника службы безопасности Джозефа Гая, чьи адвокаты подали ходатайство. «Хотя цитируемые дела в целом поддерживали нашу позицию, я признаю недопустимую ошибку в включении фантомных цитат», — написал Гривз.