OPML: Hệ thống Blockchain trên máy học Optimistic

OPML(Optimistic máy học) là một phương pháp mới để suy diễn và huấn luyện các mô hình AI blockchain. So với ZKML, OPML có thể cung cấp dịch vụ máy học với chi phí thấp hơn và hiệu quả cao hơn. Yêu cầu phần cứng của OPML tương đối thấp, PC thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA( khoảng 26GB).

OPML áp dụng cơ chế trò chơi xác minh để đảm bảo dịch vụ ML phi tập trung và sự đồng thuận có thể xác minh:

1. Người yêu cầu khởi xướng nhiệm vụ dịch vụ ML
2. Máy chủ hoàn thành nhiệm vụ và nộp kết quả lên Blockchain
3. Người xác thực kiểm tra kết quả, nếu có bất đồng thì khởi động trò chơi xác thực.
4. Cuối cùng thực hiện trọng tài từng bước trên hợp đồng thông minh

Trò chơi xác thực một giai đoạn

Điểm chính của OPML một giai đoạn:

• Xây dựng máy ảo tương đương cho thực thi ngoại tuyến và trọng tài trên chuỗi (VM)
• Triển khai thư viện DNN nhẹ chuyên dụng, nâng cao hiệu suất suy luận AI
• Biên dịch chéo mã suy diễn AI thành lệnh VM
• Sử dụng cây Merkle để quản lý hình ảnh VM, chỉ tải lên chuỗi hàm băm gốc

Giao thức phân chia được sử dụng để xác định bước tranh chấp và gửi nó đến hợp đồng trọng tài trên chuỗi.

Bài kiểm tra hiệu suất cho thấy, mô hình AI cơ bản (MNIST phân loại DNN) hoàn thành suy luận trong 2 giây trong VM, toàn bộ quá trình thách thức được hoàn thành trong mạng thử nghiệm Ethereum địa phương trong 2 phút.

Trò chơi xác thực đa giai đoạn

Để vượt qua những hạn chế của giao thức đơn giai đoạn, chúng tôi đề xuất OPML đa giai đoạn:

• Chỉ giai đoạn cuối cùng được tính toán trong VM, các giai đoạn khác có thể được thực hiện trong môi trường cục bộ.
• Sử dụng phần cứng như CPU, GPU, TPU để tăng tốc, nâng cao hiệu suất
• Sử dụng cây Merkle để đảm bảo tính toàn vẹn và an toàn trong quá trình chuyển tiếp giữa các giai đoạn

Hai giai đoạn OPML với mô hình LLaMA:

1. Giai đoạn thứ hai: Thực hiện trò chơi xác minh trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng.
2. Giai đoạn một: Chuyển đổi tính toán của một nút đơn thành lệnh VM

Phương pháp đa giai đoạn đã cải thiện đáng kể hiệu suất xác minh, đặc biệt là đối với các phép toán phức tạp.

Cải tiến hiệu suất

Giả sử đồ thị tính toán DNN có n nút, mỗi nút cần m chỉ thị VM, tỷ lệ tăng tốc GPU là α:

1. OPML hai giai đoạn nhanh hơn α lần so với OPML một giai đoạn
2. Kích thước cây Merkle của OPML hai giai đoạn là O(m+n), nhỏ hơn nhiều so với giai đoạn đơn O(mn)

Khung đa giai đoạn đã nâng cao đáng kể hiệu quả tính toán và khả năng mở rộng của hệ thống.

Tính nhất quán và tính xác định

Để giải quyết vấn đề không nhất quán trong tính toán số thực trên các nền tảng phần cứng khác nhau, OPML áp dụng:

1. Thuật toán định điểm ( công nghệ định lượng ): Sử dụng độ chính xác cố định thay cho số thực.
2. Thư viện số thực nhất quán đa nền tảng dựa trên phần mềm

Các phương pháp này đảm bảo tính nhất quán và độ tin cậy của kết quả tính toán OPML.

OPML vs ZKML

OPML có những ưu điểm sau so với ZKML:

• Yêu cầu phần cứng thấp hơn
• Tốc độ thực hiện nhanh hơn
• Hỗ trợ quy mô mô hình lớn hơn
• Thích hợp cho nhiều nhiệm vụ ML hơn

Hiện tại OPML chủ yếu tập trung vào suy diễn mô hình, nhưng khung cũng hỗ trợ quá trình huấn luyện mô hình. Dự án OPML vẫn đang trong quá trình phát triển liên tục, chào đón các nhà phát triển quan tâm tham gia đóng góp.