Топовая юридическая фирма взимает более 2000 долларов США в час, судебные документы разоблачили «ИИ-глюки, череда ошибок»

Американская топовая юридическая фирма Sullivan & Cromwell (Sullivan & Cromwell) недавно публично извинилась перед федеральным судьёй. Причина — поданные ею в суд документы по делу о банкротстве изобилуют ошибками, сгенерированными ИИ, включая фальшивые прецеденты, вымышленные цитаты и несуществующие нормы закона; эти промахи даже были разоблачены внешними адвокатами. Ирония в том, что партнёры этой фирмы берут 2,000 долларов в час, но так и не смогли обеспечить хотя бы базовую проверку и вычитку.

Топовая юридическая фирма облажалась! Разоблачили, что она писала документы с помощью ИИ — и там ошибок хоть отбавляй

Инцидент произошёл в Соединённых Штатах, в суде по делам о банкротстве Манхэттена, в деле, связанном с кхмерской (камбоджийской) группой принца (Prince Group). Sullivan & Cromwell представляла присутствовавшего в суде ликвидатора, назначенного властями Британских Виргинских островов, однако в поданных ею документах в суд обнаружилось множество ошибок, сгенерированных ИИ, — примерно более тридцати случаев.

Эти ошибки даже не были обнаружены внутри самой фирмы: их в публичных документах раскрыл адвокатский офис Boies Schiller Flexner — оппонент в том же деле. Типы ошибок включали ссылки на вымышленные названия прецедентов, которых в принципе не существует; формулировки, которые никогда не произносились и не писались; а также полное выдумывание части положений «Закона США о банкротстве».

Глобальный руководитель подразделения по реструктуризации Sullivan & Cromwell, Эндрю Дитдерих (Andrew Dietderich), в письме судье Мартину Гленну (Martin Glenn) от 18 апреля признал, что некоторые ошибки относятся к «галлюцинациям» ИИ (hallucinations).

Внутренняя проверка — как фикция, партнёр фирмы берёт за час больше двух тысяч долларов?

Со стороны фирмы Дитдерих в письме признал, что у компании есть «совершенные политика и требования к обучению» по использованию инструментов ИИ. Перед тем как юристы получают доступ к использованию инструментов ИИ, они также должны пройти обучающие курсы; при этом в явном виде требуется «не доверять никакому содержимому на слово, всё нужно лично перепроверять». Однако указанные выше меры не были реализованы при подготовке данного документа, и даже ответственный за контроль процесс повторной проверки не смог перехватить ни одной ошибки.

Сопоставляя почасовую ставку партнёра фирмы — более 2,000 долларов, — этот случай вызвал широкое обсуждение в юридических кругах внутри страны и за рубежом. В письме фирма заявила, что после выявления ошибок она провела всеобъемлющую проверку всех остальных документов по делу, подтвердив, что галлюцинации ИИ присутствуют только в этом документе, и затем подала исправленную версию.

Галлюцинации ИИ ударили по юридическому сообществу — вновь проверяют этическую ответственность юристов

Это событие — не первый раз, когда в юридической среде всплывает случай, связанный с «косяками» из‑за ИИ. В 2023 году два адвоката из Манхэттена (Нью‑Йорк) были оштрафованы федеральным судьёй на 5,000 долларов за подачу в суд юридического резюме, набитого вымышленными ИИ (ChatGPT) прецедентами. В последние годы уже было десятки случаев, когда судьи выносили решения и штрафовали адвокатов за использование ИИ для юридического исследования и составления документов при недостаточной проверке содержания.

Американская ассоциация юристов (ABA) уже чётко потребовала, чтобы юристы при использовании ИИ‑моделей сохраняли осторожность, а с моральной точки зрения также несут ответственность за обеспечение точности всех документов, подаваемых в суд. На данный момент закон не запрещает юристам использовать ИИ, однако обязанность проверять после использования всё равно лежит на самом юристе.

Трамп любит бренд! Заслуженная старая фирма извинилась

Sullivan & Cromwell была основана более ста лет назад и является одной из самых старых и авторитетных юридических фирм в истории США. В ней работают более 900 юристов; компания известна во всём мире благодаря деятельности в сферах слияний и поглощений, судебных споров по корпоративному управлению и частного акционерного капитала. В последнее время фирма находилась под пристальным вниманием из‑за того, что продолжала представлять президента Трампа по ряду апелляционных дел.

Этот инцидент с ИИ‑«чепухой», несомненно, добавил заметную трещину на фирменную вывеску этой элитной юридической конторы, и снова послужил предупреждением для всей юридической индустрии.

Эта статья «Топовая юридическая фирма: берут более двух тысяч долларов в час, в судебных документах разоблачили „галлюцинации ИИ“ и сплошные ошибки» впервые появилась в «鏈新聞 ABMedia».