Найнебезпечніша помилка в AI-воркфлоу — це не прямий збій.


Це коли основна модель “впала”, і резервна теж не спрацювала,
а система все одно випльовує фрагмент, який виглядає цілком завершеним, змушуючи думати, що все зроблено.
Я наступив на це один раз: під час щоденної обробки інформації основна модель пропрацювала до 60 секунд і була перервана, резервна також не увінчалася успіхом, але в підсумку я все одно отримав документ, схожий на гарно оформлений витяг. Проблема не в тому, що “змінити шлях і продовжити спробу”, а в тому, що після зміни маршруту ніхто не пояснив, що саме відбулося.
Пізніше я додав до кожного завершення три типи підтверджень: якщо якесь із них відсутнє, це можна позначити як “очікує на верифікацію”, але не як “виконано”:
1. Остаточно фактично використане: ____(яка модель / який сервіс)
2. Результат кожної спроби: ____(успіх / тайм-аут / помилка)
3. Поточний статус виводу: ____(нормальне генерування / явне зниження рівня / провал)
Змінювати маршрут можна, але треба записати це в результат і мати змогу перевірити. Тихе завершення без повідомлень — небезпечніше, ніж помилка.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено