Optimistic機器學習：高效低成本的區塊鏈AI服務

Optimistic機器學習(OPML)是一種新型技術，可在區塊鏈系統上進行AI模型推理和訓練/微調。與ZKML相比，OPML提供了更經濟高效的ML服務，且參與門檻較低。目前普通PC無需GPU即可運行大型語言模型，如26GB大小的7B-LLaMA。

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證共識。其流程如下:

1. 請求者發起ML服務任務
2. 服務器完成任務並提交結果上鏈
3. 驗證者審核結果，如有異議則啓動驗證遊戲
4. 智能合約進行最終仲裁

OPML的單階段驗證遊戲類似於計算委托(RDoC)。它構建了一個用於鏈下執行和鏈上仲裁的虛擬機，並實現了專門的輕量級DNN庫以提高AI推理效率。虛擬機鏡像通過默克爾樹管理，僅將根哈希上傳鏈上。

單階段驗證遊戲的主要局限在於所有計算必須在虛擬機內執行，無法充分利用GPU/TPU加速。爲解決這一問題，OPML提出了多階段驗證協議。在多階段協議中，只有最後階段需要在VM中計算，其他階段可在本地環境中靈活執行，從而顯著提高性能。

以LLaMA模型爲例，兩階段OPML的工作流程如下:

1. 第二階段在計算圖上進行驗證博弈，可利用多線程CPU或GPU
2. 第一階段將單個節點計算轉換爲VM指令進行驗證

多階段OPML相比單階段可實現α倍計算加速，其中α爲GPU或並行計算的加速比。此外，多階段OPML的默克爾樹大小也顯著小於單階段。

爲確保ML結果的一致性，OPML採用了定點算法和基於軟件的浮點庫。這些技術可以減輕浮點舍入誤差的影響，並確保跨平台的結果一致性。

總的來說，OPML爲區塊鏈上的AI服務提供了一種高效、低成本且可擴展的解決方案。它不僅支持模型推理，還可用於模型訓練，是一個通用的機器學習框架。