OPML: 区块链系统上的Optimistic机器学习

OPML(Optimistic机器学习)是一种新型的区块链AI模型推理和训练方法。相比ZKML,OPML能以更低的成本和更高的效率提供机器学习服务。OPML的硬件要求较低,普通PC无需GPU即可运行大型语言模型如7B-LLaMA(约26GB)。

OPML采用验证游戏机制来保证ML服务的去中心化和可验证共识:

1. 请求者发起ML服务任务
2. 服务器完成任务并提交结果上链
3. 验证者检查结果,如有异议则启动验证游戏
4. 最终在智能合约上进行单步仲裁

单阶段验证游戏

单阶段OPML的关键点:

• 构建用于链下执行和链上仲裁的等效虚拟机(VM)
• 实现专用轻量级DNN库,提高AI推理效率
• 交叉编译AI模型推理代码为VM指令
• 使用默克尔树管理VM镜像,仅将根哈希上传链上

二分协议用于定位争议步骤,并将其发送至链上仲裁合约。

性能测试显示,基本AI模型(MNIST分类DNN)在VM中2秒内完成推理,整个挑战过程在本地以太坊测试网2分钟内完成。

多阶段验证游戏

为克服单阶段协议的局限性,我们提出多阶段OPML:

• 仅最后阶段在VM中计算,其他阶段可在本地环境执行
• 利用CPU、GPU、TPU等硬件加速,提升性能
• 使用默克尔树确保阶段间过渡的完整性和安全性

以LLaMA模型为例的两阶段OPML:

1. 第二阶段:在计算图上进行验证博弈,可使用多线程CPU或GPU
2. 第一阶段:将单个节点计算转换为VM指令

多阶段方法显著提高了验证效率,特别是对于复杂计算。

性能改进

假设DNN计算图有n个节点,每个节点需m条VM指令,GPU加速比为α:

1. 两阶段OPML比单阶段快α倍
2. 两阶段OPML的默克尔树大小为O(m+n),远小于单阶段的O(mn)

多阶段框架极大提升了计算效率和系统可扩展性。

一致性与确定性

为解决不同硬件平台上浮点计算的不一致问题,OPML采用:

1. 定点算法(量化技术):使用固定精度代替浮点数
2. 基于软件的跨平台一致浮点库

这些方法确保了OPML计算结果的一致性和可靠性。

OPML vs ZKML

OPML相比ZKML具有以下优势:

• 更低的硬件要求
• 更快的执行速度
• 支持更大的模型规模
• 适用于更广泛的ML任务

目前OPML主要聚焦于模型推理,但框架也支持模型训练过程。OPML项目仍在持续开发中,欢迎感兴趣的开发者参与贡献。