Esto es lo que nadie quiere admitir sobre la verificación de la IA: no es un problema de confianza, es un problema de determinismo.

Hemos estado tratando a los LLM como software tradicional: le das el mismo prompt, esperas la misma respuesta cada vez. ¿Ese modelo mental? Se desmorona por completo cuando realmente ejecutas modelos de lenguaje a gran escala.

Los antiguos marcos de ZKML fueron diseñados para un mundo que ya no existe. Asumían previsibilidad. Asumían repetibilidad. Pero la inferencia de los LLM es, por naturaleza, probabilística. Los ajustes de temperatura, los métodos de muestreo, incluso pequeñas actualizaciones del modelo: todo esto introduce variabilidad que las pruebas de conocimiento cero tradicionales no estaban hechas para manejar.

Así que estamos atascados usando herramientas de verificación diseñadas para motores de ajedrez para verificar sistemas que se comportan más como una improvisación de jazz.