شركة المحاماة في وول ستريت Sullivan & Cromwell اعتذرت لقاضي اتحادي بعد أن تضمن ملف قضائي حوالي 40 استشهادًا خاطئًا وأخطاء أخرى مرتبطة بمحتوى مولد بواسطة الذكاء الاصطناعي

ملخص

• اعترفت Sullivan & Cromwell بوقوع أخطاء ناتجة عن الذكاء الاصطناعي تسربت إلى ملف قضائي على الرغم من وجود سياسات مراجعة داخلية سابقة.
• قال أندرو ديترش إن الشركة تحملت المسؤولية بعد أن وصلت استشهادات زائفة إلى محكمة الإفلاس الفيدرالية.
• أطلقت الشركة مراجعة داخلية بعد أن أشار إليها شركة منافسة بوجود أخطاء في الملف.

ظهرت المشكلة في رسالة أرسلها أندرو ديترش، رئيس فريق إعادة الهيكلة العالمي في الشركة، إلى القاضي الرئيسي مارتن جلين بمحكمة الإفلاس الأمريكية للمنطقة الجنوبية لنيويورك.

قال ديترش إن الملف كان جزءًا من طلب طارئ قدم قبل تسعة أيام. وأخبر المحكمة أن الشركة تتحمل المسؤولية عن الأخطاء، وأن خطوات المراجعة الحالية لم تعمل كما هو مخطط لها في هذه الحالة.

الشركة تعترف بأخطاء في الملف وتتحمل المسؤولية

في الرسالة، قال ديترش إن الشركة ندمت على ما حدث وأقرت بواجبها في ضمان دقة المستندات المقدمة للمحكمة. كتب: ”نحن نأسف بشدة لحدوث ذلك“.

كما قال: ”الشركة وأنا ندرك تمامًا مسؤوليتنا في ضمان دقة جميع المستندات المقدمة“. وأضاف ديترش أنه يتحمل المسؤولية عن الفشل المرتبط بالملف.

احتوى الملف القضائي على حوالي 40 استشهادًا غير صحيح وأخطاء أخرى. وقالت الشركة إن هذه المشاكل كانت ناجمة عن هلوسات وأخطاء من قبل الذكاء الاصطناعي لم يتم اكتشافها قبل التقديم.

قال ديترش إن Sullivan & Cromwell لديها بالفعل قواعد داخلية لاستخدام الذكاء الاصطناعي. تتضمن تلك القواعد التحقق من الاستشهادات قبل تقديم المادة للمحكمة.

لم يتم اتباع سياسات مراجعة الذكاء الاصطناعي الحالية

وفقًا لديترش، كانت لدى الشركة سياسات لمنع حدوث هذا النوع من المشاكل، لكن الإجراءات المطلوبة لم تُتبع في هذه المناسبة. وقال إن عملية المراجعة فشلت في التعرف على الاستشهادات الزائفة وغيرها من المشاكل.

”للأسف، لم تكشف عملية المراجعة هذه عن الاستشهادات غير الدقيقة التي أنشأها الذكاء الاصطناعي، ولم تتعرف على الأخطاء الأخرى التي يبدو أنها نتجت كليًا أو جزئيًا عن خطأ يدوي،” كتب.

تضيف الحالة إلى قائمة متزايدة من الملفات القانونية المتأثرة بأخطاء الذكاء الاصطناعي. سجلت قاعدة بيانات يديرها تقني القانون داميان شارلون 1334 حادثة هلوسة من الذكاء الاصطناعي في ملفات المحكمة حول العالم، مع أكثر من 900 منها في الولايات المتحدة.

قال شارلون إن العديد من هذه الحالات تتعلق باستشهادات مختلقة. وفي بعض الحالات، ظهرت أيضًا حجج قانونية مولدة بواسطة الذكاء الاصطناعي في الملفات.

بدأت المراجعة الداخلية بعد أن لاحظت شركة منافسة الأخطاء

قال ديترش إن Sullivan & Cromwell بدأت تحقيقًا داخليًا في الأسباب التي أدت إلى الأخطاء. وأوضح أن الشركة اتخذت خطوات تصحيح فورية وتراجع ما إذا كانت هناك حاجة لمزيد من التدريب أو فحوصات داخلية أقوى.

وأشار أيضًا إلى أن الأخطاء أُبلغت عنها الشركة من قبل شركة المحاماة المنافسة Boies Schiller Flexner LLP. قال ديترش إنه اتصل بالشركة مباشرة ليشكرهم ويعتذر.

Sullivan & Cromwell هي واحدة من أكبر شركات المحاماة في الولايات المتحدة من حيث الإيرادات. كما شاركت الشركة في قضايا بارزة، بما في ذلك تمثيل FTX في قضية إفلاسها.

أضاف الحادث اهتمامًا جديدًا بالمخاطر المرتبطة باستخدام الذكاء الاصطناعي في العمل القانوني، خاصة عندما لا تكتشف المراجعة البشرية الأخطاء الأساسية قبل التقديم.