Вот что никто не хочет признавать верификации ИИ: проблема не в доверии, а в детерминизме.

Мы обращаемся с LLM, как с традиционным ПО — даём один и тот же запрос и ожидаем всегда один и тот же ответ. Эта ментальная модель? Полностью ломается, когда вы запускаете языковые модели в масштабе.

Старые ZKML-фреймворки были созданы для мира, которого больше не существует. Они предполагали предсказуемость. Они предполагали повторяемость. Но вывод LLM по своей природе вероятностный. Настройки температуры, методы сэмплирования, даже незначительные обновления модели — всё это вносит вариативность, с которой традиционные доказательства с нулевым разглашением не были рассчитаны работать.

В итоге мы вынуждены использовать инструменты для верификации, созданные для шахматных движков, чтобы проверять системы, которые ведут себя скорее как джазовая импровизация.