Đây là điều mà không ai muốn thừa nhận về việc xác minh AI: vấn đề không phải là sự tin tưởng, mà là vấn đề quyết định luận.

Chúng ta đã đối xử với các mô hình ngôn ngữ lớn (LLM) như phần mềm truyền thống—cung cấp cùng một lời nhắc, mong đợi cùng một câu trả lời mỗi lần. Mô hình tư duy đó? Hoàn toàn sụp đổ khi bạn thực sự vận hành các mô hình ngôn ngữ ở quy mô lớn.

Các khung ZKML cũ được thiết kế cho một thế giới không còn tồn tại nữa. Chúng giả định tính dự đoán được. Chúng giả định tính lặp lại được. Nhưng quá trình suy luận của LLM vốn mang tính xác suất. Cài đặt nhiệt độ, phương pháp lấy mẫu, thậm chí là các cập nhật mô hình tinh vi—tất cả những thứ này đều tạo ra sự biến đổi mà các bằng chứng không tiết lộ truyền thống không được xây dựng để xử lý.

Vì vậy, chúng ta bị mắc kẹt khi sử dụng các công cụ xác minh được thiết kế cho các động cơ chơi cờ vua để xác minh những hệ thống hoạt động giống như ngẫu hứng nhạc jazz hơn.