Optimistic機器學習:區塊鏈AI服務的革新之路

Optimistic機器學習:高效低成本的區塊鏈AI服務

Optimistic機器學習(OPML)是一種新型技術,可在區塊鏈系統上進行AI模型推理和訓練/微調。與ZKML相比,OPML提供了更經濟高效的ML服務,且參與門檻較低。目前普通PC無需GPU即可運行大型語言模型,如26GB大小的7B-LLaMA。

OPML:採用Optimistic Rollup系統的機器學習

OPML採用驗證遊戲機制來確保ML服務的去中心化和可驗證共識。其流程如下:

  1. 請求者發起ML服務任務
  2. 服務器完成任務並提交結果上鏈
  3. 驗證者審核結果,如有異議則啓動驗證遊戲
  4. 智能合約進行最終仲裁

OPML:採用Optimistic Rollup系統的機器學習

OPML的單階段驗證遊戲類似於計算委托(RDoC)。它構建了一個用於鏈下執行和鏈上仲裁的虛擬機,並實現了專門的輕量級DNN庫以提高AI推理效率。虛擬機鏡像通過默克爾樹管理,僅將根哈希上傳鏈上。

單階段驗證遊戲的主要局限在於所有計算必須在虛擬機內執行,無法充分利用GPU/TPU加速。爲解決這一問題,OPML提出了多階段驗證協議。在多階段協議中,只有最後階段需要在VM中計算,其他階段可在本地環境中靈活執行,從而顯著提高性能。

OPML:採用Optimistic Rollup系統的機器學習

以LLaMA模型爲例,兩階段OPML的工作流程如下:

  1. 第二階段在計算圖上進行驗證博弈,可利用多線程CPU或GPU
  2. 第一階段將單個節點計算轉換爲VM指令進行驗證

OPML:採用Optimistic Rollup系統的機器學習

多階段OPML相比單階段可實現α倍計算加速,其中α爲GPU或並行計算的加速比。此外,多階段OPML的默克爾樹大小也顯著小於單階段。

爲確保ML結果的一致性,OPML採用了定點算法和基於軟件的浮點庫。這些技術可以減輕浮點舍入誤差的影響,並確保跨平台的結果一致性。

總的來說,OPML爲區塊鏈上的AI服務提供了一種高效、低成本且可擴展的解決方案。它不僅支持模型推理,還可用於模型訓練,是一個通用的機器學習框架。

OPML:採用Optimistic Rollup系統的機器學習

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 3
  • 分享
留言
0/400
RumbleValidatorvip
· 18小時前
验证效率远超预期 这样的架构我很认可
回復0
Blockchain智囊vip
· 18小時前
建议大家谨慎判断,类似ML项目18年就扑过,跟风需三思
回復0
跳跃的蜡烛线vip
· 19小時前
牛啊 老铁不用显卡也能搞AI
回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)