AIワークフローで最も危険な失敗は、直接エラーが出ることではありません。

主モデルが落ち、バックアップも成功しない。
それでもシステムは、完了したように見える一まとまりの結果を吐き出してしまい、やり切ったと思わせてしまう。
私は一度踏んだことがあります。日次の情報処理で、主モデルが60秒で切断され、バックアップも成功しませんでした。それでも最後には、体裁の整った抽出テキストが手に入ったのです。問題は「別の道に切り替えて続けて試す」ことではなく、「道を変えた後に誰も状況を明確に説明していない」ことです。
その後、毎回の完了に3項目の受領確認（回執）を追加しました。どれかが欠けていれば「待ち（核驗）」として扱い、「完了」とは表示しないようにしました：
1. 最終的に実際に使った：____（どのモデル / どのサービス）
2. 各試行の結果：____（成功 / タイムアウト / エラー）
3. 現在の出力状態：____（通常生成 / 明確なダウングレード / 失敗）
道を変えるのは構いませんが、結果に書き込んで、復習（再確認）できなければならない。静かに完了させることは、エラーを出すよりも危険です。