أخطر إخفاق في سير عمل الذكاء الاصطناعي ليس حدوث خطأ مباشر.

بل أن النموذج الرئيسي يتعطل، ولا ينجح النسخ الاحتياطي أيضًا،
ومع ذلك يستمر النظام في إخراج مقطع يبدو متكاملًا، ما يجعل الناس يظنون أنه تم الانتهاء.
لقد مررت بذلك مرة واحدة: أثناء معالجة المعلومات اليومية، تعرّض النموذج الرئيسي للقطع عند 60 ثانية، ولم ينجح النسخ الاحتياطي، ومع ذلك حصلت في النهاية على نص مقتطف يبدو منسقًا وجاهزًا.
المشكلة ليست في “تبديل المسار والمحاولة مرة أخرى”، بل في أنه بعد تغيير المسار لا أحد يوضح الصورة كاملة.
لاحقًا أضفت ثلاث إيصالات لكل مرة اكتملت فيها العملية، بحيث إن نقص أحدها لا يمكن اعتباره “مكتملًا”، بل يجب وسمه على أنه قيد المراجعة والتحقق فقط:
1. ما تم استخدامه فعليًا في النهاية: ____ (أي نموذج / أي خدمة)
2. نتيجة كل محاولة: ____ (نجاح / مهلة / خطأ)
3. حالة الإخراج الحالية: ____ (توليد عادي / تدهور واضح / فشل)
يمكن تغيير المسار، لكن يجب تدوينه في النتيجة وأن يكون قابلًا للمراجعة. الإكمال الصامت أكثر خطورة من الإبلاغ عن خطأ.