O escritório de advocacia de Wall Street Sullivan & Cromwell pediu desculpas a um juiz federal após uma apresentação judicial incluir cerca de 40 citações incorretas e outros erros relacionados a conteúdo gerado por IA

Resumo

• Sullivan & Cromwell admitiu que erros gerados por IA escaparam de uma apresentação judicial, apesar das políticas internas de revisão existentes.
• Andrew Dietderich afirmou que o escritório assumiu a responsabilidade após citações falsas chegarem a um tribunal de falências federal.
• O escritório de advocacia iniciou uma revisão interna após um escritório rival apontar os erros na apresentação.

A questão veio à tona em uma carta enviada por Andrew Dietderich, co-líder da equipe de reestruturação global do escritório, ao Juiz Chefe Martin Glenn do Tribunal de Falências dos EUA para o Distrito Sul de Nova York.

Dietderich afirmou que a apresentação fazia parte de um pedido de emergência submetido nove dias antes. Ele disse ao tribunal que o escritório aceita a responsabilidade pelos erros e que as etapas de revisão existentes não funcionaram como esperado neste caso.

Escritório admite erros na apresentação e assume responsabilidade

Na carta, Dietderich afirmou que o escritório lamenta o ocorrido e reconhece seu dever de garantir que as submissões ao tribunal sejam precisas. Ele escreveu: ”Lamentamos profundamente que isso tenha acontecido.”

Ele também disse: ”O escritório e eu estamos cientes de nossa responsabilidade de garantir a precisão de todas as submissões.” Dietderich acrescentou que assume a responsabilidade pelo fracasso relacionado à apresentação.

A apresentação judicial continha cerca de 40 citações incorretas e outros erros. O escritório afirmou que esses problemas foram causados por alucinações de IA e erros que não foram detectados antes da submissão.

Dietderich afirmou que Sullivan & Cromwell já possui regras internas para o uso de IA. Essas regras incluem verificar as citações antes de o material ser apresentado ao tribunal.

Políticas de revisão de IA existentes não foram seguidas

De acordo com Dietderich, o escritório tinha políticas para evitar esse tipo de problema, mas os procedimentos necessários não foram seguidos nesta ocasião. Ele disse que o processo de revisão não conseguiu identificar as citações falsas e outros problemas.

”Infelizmente, esse processo de revisão não identificou as citações incorretas geradas por IA, nem outros erros que parecem ter resultado, total ou parcialmente, de erro manual,” escreveu.

O caso se soma a uma lista crescente de apresentações legais afetadas por erros de IA. Um banco de dados gerenciado pelo tecnólogo jurídico Damien Charlotin registrou 1.334 incidentes de alucinações de IA em documentos judiciais em todo o mundo, com mais de 900 deles nos Estados Unidos.

Charlotin afirmou que muitos desses casos envolvem citações inventadas. Em alguns casos, argumentos jurídicos gerados por IA também apareceram nas apresentações.

Revisão interna começa após escritório rival detectar erros

Dietderich disse que Sullivan & Cromwell iniciou uma investigação interna para entender o que levou aos erros. Ele afirmou que o escritório tomou medidas corretivas imediatas e está revisando se é necessário mais treinamento ou verificações internas mais rigorosas.

Ele também observou que os erros foram trazidos à atenção do escritório pelo escritório de advocacia rival Boies Schiller Flexner LLP. Dietderich disse que entrou em contato diretamente com eles para agradecer e pedir desculpas.

Sullivan & Cromwell é um dos maiores escritórios de advocacia dos Estados Unidos em receita. O escritório também esteve envolvido em casos de grande destaque, incluindo a representação da FTX em seu processo de falência.

O incidente trouxe uma nova atenção aos riscos associados ao uso de IA no trabalho jurídico, especialmente quando a revisão humana não detecta erros básicos antes da apresentação.