OPML: 低成本高效率的區塊鏈機器學習新技術

robot
摘要生成中

OPML: 基於Optimistic機制的高效區塊鏈機器學習方案

OPML(Optimistic機器學習)是一種新型區塊鏈機器學習技術,通過Optimistic方法實現AI模型的推理和訓練/微調。與ZKML相比,OPML具有成本低、效率高的優勢,且參與門檻較低。目前,普通PC無需GPU即可運行大型語言模型,如26GB的7B-LLaMA。

OPML採用驗證遊戲機制確保ML服務的去中心化和可驗證性。其基本流程如下:

  1. 請求者發起ML服務任務
  2. 服務器完成任務並提交結果上鏈
  3. 驗證者檢查結果,如有異議則啓動驗證遊戲
  4. 通過智能合約進行單步仲裁

OPML:採用Optimistic Rollup系統的機器學習

單階段驗證遊戲

單階段OPML採用精確定位協議,類似於計算委托(RDoC)。主要特點包括:

  • 構建鏈下執行和鏈上仲裁的虛擬機(VM)
  • 實現輕量級DNN庫,提高AI模型推理效率
  • 使用交叉編譯技術將AI推理代碼編譯爲VM指令
  • VM鏡像通過默克爾樹管理,僅將根哈希上傳至鏈上

性能測試顯示,基本AI模型(MNIST分類DNN)在PC上可在2秒內完成VM推理,整個挑戰過程在本地以太坊測試環境中可在2分鍾內完成。

OPML:採用Optimistic Rollup系統的機器學習

多階段驗證遊戲

爲克服單階段協議的局限性,OPML引入了多階段協議,以充分利用GPU/TPU和並行處理能力。多階段OPML的主要優勢:

  • 僅最後階段在VM中計算,其他階段可在本地環境執行
  • 顯著提高執行性能,接近本地環境水平
  • 採用默克爾樹確保階段間轉換的完整性和安全性

以LLaMA模型爲例,兩階段OPML方法如下:

  1. 將ML計算過程表示爲計算圖
  2. 在計算圖上進行驗證博弈(第二階段)
  3. 將有爭議節點的計算轉換爲VM指令(第一階段)

多階段OPML相比單階段方案,可實現α倍的計算加速(α爲GPU或並行計算的加速比)。此外,多階段方案的默克爾樹大小顯著減小,進一步提高了效率和可擴展性。

OPML:採用Optimistic Rollup系統的機器學習

一致性與確定性

爲確保ML結果的一致性,OPML採用以下策略:

  1. 使用定點算法(量化技術)減少浮點舍入誤差
  2. 採用基於軟件的浮點庫,保證跨平台一致性

這些方法有效克服了浮點變量和平台差異帶來的挑戰,增強了OPML計算的可靠性。

OPML:採用Optimistic Rollup系統的機器學習

OPML vs ZKML

OPML與ZKML相比具有以下優勢:

  • 更低的硬件要求
  • 更高的執行效率
  • 支持更大規模的模型
  • 可進行模型訓練(ZKML僅支持推理)

值得注意的是,OPML項目仍在持續開發中,歡迎有興趣的開發者參與貢獻。

OPML:採用Optimistic Rollup系統的機器學習

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 4
  • 分享
留言
0/400
blockBoyvip
· 17小時前
低配机也能玩?这波可以
回復0
空投舔狗vip
· 07-11 15:14
还不如上zkml
回復0
MechanicalMartelvip
· 07-11 14:56
性价比可以啊
回復0
WenMoon42vip
· 07-11 14:50
低成本在这里就是打响的第一枪
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)