Voici ce que personne ne veut admettre à propos de la vérification par IA : ce n'est pas un problème de confiance, c'est un problème de déterminisme.

Nous avons traité les LLM comme des logiciels traditionnels : fournir le même prompt, s’attendre à la même réponse à chaque fois. Ce modèle mental ? Il s’effondre complètement lorsqu’on exécute réellement des modèles de langage à grande échelle.

Les anciens frameworks ZKML ont été conçus pour un monde qui n’existe plus. Ils supposaient la prévisibilité. Ils supposaient la répétabilité. Mais l’inférence des LLM est, par nature, probabiliste. Les paramètres de température, les méthodes d’échantillonnage, même des mises à jour subtiles du modèle—tout cela injecte de la variabilité que les preuves à connaissance nulle traditionnelles n’étaient pas conçues pour gérer.

Nous nous retrouvons donc à utiliser des outils de vérification conçus pour des moteurs d’échecs afin de vérifier des systèmes qui se comportent plutôt comme de l’improvisation jazz.