OPML: 低成本高效率的区块链机器学习新技术

robot
摘要生成中

OPML: 基于Optimistic机制的高效区块链机器学习方案

OPML(Optimistic机器学习)是一种新型区块链机器学习技术,通过Optimistic方法实现AI模型的推理和训练/微调。与ZKML相比,OPML具有成本低、效率高的优势,且参与门槛较低。目前,普通PC无需GPU即可运行大型语言模型,如26GB的7B-LLaMA。

OPML采用验证游戏机制确保ML服务的去中心化和可验证性。其基本流程如下:

  1. 请求者发起ML服务任务
  2. 服务器完成任务并提交结果上链
  3. 验证者检查结果,如有异议则启动验证游戏
  4. 通过智能合约进行单步仲裁

OPML:采用Optimistic Rollup系统的机器学习

单阶段验证游戏

单阶段OPML采用精确定位协议,类似于计算委托(RDoC)。主要特点包括:

  • 构建链下执行和链上仲裁的虚拟机(VM)
  • 实现轻量级DNN库,提高AI模型推理效率
  • 使用交叉编译技术将AI推理代码编译为VM指令
  • VM镜像通过默克尔树管理,仅将根哈希上传至链上

性能测试显示,基本AI模型(MNIST分类DNN)在PC上可在2秒内完成VM推理,整个挑战过程在本地以太坊测试环境中可在2分钟内完成。

OPML:采用Optimistic Rollup系统的机器学习

多阶段验证游戏

为克服单阶段协议的局限性,OPML引入了多阶段协议,以充分利用GPU/TPU和并行处理能力。多阶段OPML的主要优势:

  • 仅最后阶段在VM中计算,其他阶段可在本地环境执行
  • 显著提高执行性能,接近本地环境水平
  • 采用默克尔树确保阶段间转换的完整性和安全性

以LLaMA模型为例,两阶段OPML方法如下:

  1. 将ML计算过程表示为计算图
  2. 在计算图上进行验证博弈(第二阶段)
  3. 将有争议节点的计算转换为VM指令(第一阶段)

多阶段OPML相比单阶段方案,可实现α倍的计算加速(α为GPU或并行计算的加速比)。此外,多阶段方案的默克尔树大小显著减小,进一步提高了效率和可扩展性。

OPML:采用Optimistic Rollup系统的机器学习

一致性与确定性

为确保ML结果的一致性,OPML采用以下策略:

  1. 使用定点算法(量化技术)减少浮点舍入误差
  2. 采用基于软件的浮点库,保证跨平台一致性

这些方法有效克服了浮点变量和平台差异带来的挑战,增强了OPML计算的可靠性。

OPML:采用Optimistic Rollup系统的机器学习

OPML vs ZKML

OPML与ZKML相比具有以下优势:

  • 更低的硬件要求
  • 更高的执行效率
  • 支持更大规模的模型
  • 可进行模型训练(ZKML仅支持推理)

值得注意的是,OPML项目仍在持续开发中,欢迎有兴趣的开发者参与贡献。

OPML:采用Optimistic Rollup系统的机器学习

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 分享
评论
0/400
blockBoyvip
· 5小时前
低配机也能玩?这波可以
回复0
空投舔狗vip
· 07-11 15:14
还不如上zkml
回复0
MechanicalMartelvip
· 07-11 14:56
性价比可以啊
回复0
WenMoon42vip
· 07-11 14:50
低成本在这里就是打响的第一枪
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)