El bufete de abogados de Wall Street Sullivan & Cromwell se ha disculpado con un juez federal después de que un expediente judicial incluyera unas 40 citas incorrectas y otros errores relacionados con contenido generado por IA

Resumen

• Sullivan & Cromwell admitió que errores generados por IA se colaron en un expediente judicial a pesar de las políticas internas de revisión existentes.
• Andrew Dietderich dijo que el bufete asumió la responsabilidad después de que citas falsas llegaran a un tribunal federal de quiebras.
• El bufete lanzó una revisión interna después de que un bufete rival señalara los errores en el expediente.

El problema salió a la luz en una carta enviada por Andrew Dietderich, copresidente del equipo de reestructuración global del bufete, al juez principal Martin Glenn del Tribunal de Quiebras de EE. UU. para el Distrito Sur de Nueva York.

Dietderich dijo que el expediente formaba parte de una moción de emergencia presentada nueve días antes. Le dijo al tribunal que el bufete acepta la responsabilidad por los errores y que los pasos de revisión existentes no funcionaron como se esperaba en este caso.

El bufete admite errores en el expediente y asume la responsabilidad

En la carta, Dietderich dijo que el bufete lamentaba lo ocurrido y reconocía su deber de garantizar que las presentaciones ante el tribunal sean precisas. Escribió, ”Lamentamos profundamente que esto haya ocurrido.”

También dijo, ”El bufete y yo somos muy conscientes de nuestra responsabilidad de garantizar la precisión de todas las presentaciones.” Dietderich agregó que asume la responsabilidad por la falla relacionada con el expediente.

El expediente judicial contenía unas 40 citas incorrectas y otros errores. El bufete dijo que estos problemas fueron causados por alucinaciones y errores de IA que no fueron detectados antes de la presentación.

Dietderich dijo que Sullivan & Cromwell ya tiene reglas internas para el uso de IA. Esas reglas incluyen verificar las citas antes de presentar material en el tribunal.

No se siguieron las políticas existentes de revisión de IA

Según Dietderich, el bufete tenía políticas para prevenir este tipo de problema, pero los procedimientos requeridos no se siguieron en esta ocasión. Dijo que el proceso de revisión no logró identificar las citas falsas y otros problemas.

”Lamentablemente, este proceso de revisión no identificó las citas inexactas generadas por IA, ni otros errores que parecen haber resultado en parte o en su totalidad de un error manual,” escribió.

El caso se suma a una lista creciente de presentaciones legales afectadas por errores de IA. Una base de datos gestionada por el tecnólogo legal Damien Charlotin ha registrado 1,334 incidentes de alucinaciones de IA en presentaciones judiciales en todo el mundo, con más de 900 en Estados Unidos.

Charlotin dijo que muchos de estos casos involucran citas inventadas. En algunos casos, también han aparecido argumentos legales generados por IA en los expedientes.

Revisión interna comienza después de que un bufete rival detecta errores

Dietderich dijo que Sullivan & Cromwell ha iniciado una investigación interna sobre lo que llevó a los errores. Dijo que el bufete tomó medidas correctivas inmediatas y está revisando si se necesita más capacitación o controles internos más estrictos.

También señaló que los errores fueron señalados a la atención del bufete por el bufete rival Boies Schiller Flexner LLP. Dietderich dijo que contactó directamente con la firma para agradecerles y disculparse.

Sullivan & Cromwell es uno de los bufetes más grandes de Estados Unidos por ingresos. El bufete también ha estado involucrado en asuntos de alto perfil, incluyendo la representación de FTX en su caso de quiebra.

El incidente ha puesto en el foco los riesgos asociados con el uso de IA en el trabajo legal, especialmente cuando la revisión humana no detecta errores básicos antes de presentar.