Kegagalan paling berbahaya dalam workflow AI bukan langsung error.

Yang jatuh adalah model utama, cadangannya juga gagal,
tetapi sistem tetap mengeluarkan rangkaian hasil yang tampak lengkap, membuat orang mengira semuanya sudah selesai.
Saya pernah mengalaminya: saat pemrosesan informasi harian, model utama terpotong pada 60 detik, cadangan juga tidak berhasil, namun akhirnya tetap mendapatkan sebuah teks ekstraksi yang tampak rapi.
Masalahnya bukan pada “ganti jalur dan coba lagi”, melainkan setelah ganti jalur, tidak ada yang menjelaskan dengan jelas.
Belakangan saya menambahkan tiga bukti penyelesaian untuk setiap proses; jika salah satu hilang, hanya bisa ditandai menunggu verifikasi, tidak boleh ditandai selesai:
1. Yang benar-benar dipakai: ____ (model mana / layanan mana)
2. Hasil setiap percobaan: ____ (berhasil / timeout / error)
3. Status output saat ini: ____ (generasi normal / degradasi yang jelas / gagal)
Boleh ganti rute, tapi harus ditulis dalam hasil dan bisa diverifikasi. Penyelesaian secara senyap lebih berbahaya daripada sekadar error.