OPML:楽観的手法を使用してブロックチェーン上の機械学習を最適化する

OPML(楽観的機械学習)は、新しい技術で、ブロックチェーンシステム上でAIモデルの推論とトレーニング/ファインチューニングを行うことができます。ZKMLと比較して、OPMLはコストが低く、効率が高いという利点があり、ユーザーにより便利なMLサービスを提供します。

OPMLの大きな特徴は、参加のハードルが低いことです。GPUを持たない普通のPCでも、26GBの7B-LLaMA(などの大規模言語モデルを含むOPMLを実行することができます。

MLサービスの分散化と検証可能なコンセンサスを保証するために、OPMLはTruebitやOptimistic Rollupシステムに類似した検証ゲームメカニズムを採用しています。その基本的なプロセスは以下の通りです:

1. リクエスターがMLサービスタスクを開始します
2. サーバーはタスクを完了し、結果をオンチェーンにします
3. バリデーターは結果を検証し、異議がある場合は検証ゲームを開始します。
4. バイナリプロトコルを通じてエラーのステップを正確に特定する
5. スマートコントラクト上での単一ステップ仲裁

! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(

シングルステージ検証ゲーム

単段階認証ゲームの核心は正確な位置決めプロトコルであり、その動作原理は計算委託)RDoC(に類似しています。複数の参加者が同じプログラムを実行する際、相互に疑問を投げかけることにより、議論の余地のあるステップを特定し、それをブロックチェーン上のスマートコントラクトに提出して仲裁を行います。

OPMLの単段階検証ゲームには以下の特徴があります:

• オンチェーン仲裁とオフチェーン実行の仮想マシン)VM(を構築し、両者の等価性を保証しました。
• 専用の軽量DNNライブラリを実現し、AIモデルの推論効率を向上させました
• クロスコンパイル技術を採用し、AIモデル推論コードをVM命令にコンパイルする
• メルクルツリーを使用してVMイメージを管理し、メルクルルートのみをオンチェーンにアップロードします。

二分法によって争議のステップを特定した後、それをブロックチェーン上の仲裁契約に送信します。テストの結果、一般的なPC上で、基本的なAIモデル)MNIST分類DNN(の推論は2秒以内に完了し、全体のチャレンジプロセスは約2分かかります。

! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(

マルチステージ検証ゲーム

単段階検証ゲームの限界は、すべての計算がVM内で実行されなければならず、GPU/TPU加速や並列処理を十分に活用できないことです。この問題を解決するために、OPMLは多段階プロトコルの拡張を提案しました。

マルチステージプロトコルの核心的な考え方は、最終段階でのみVM内で計算を行い、他の段階はローカル環境で柔軟に実行できるようにし、CPU、GPU、TPU、さらには並列処理能力を十分に活用することです。これにより、OPMLの実行効率が大幅に向上し、ローカル環境のパフォーマンスレベルに近づきました。

二段階)k=2(でゲームを検証する例:

• 第2段階: 状態遷移に対応する計算コンテキストの "大命令" を変更する
• 第1段階:単一段階検証ゲームに類似し、状態遷移は単一のVMマイクロ指令に対応します

提出者と検証者はまず第2段階で検証ゲームを開始し、議論のある"大命令"を特定します。次に第1段階に進み、議論のあるVMマイクロ命令を特定し、最後にブロックチェーン仲裁に送信します。

段階間の移行の完全性と安全性を確保するために、OPMLはマークルツリーに依存し、高度な段階からサブツリーを抽出して検証プロセスの連続性を保証します。

! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(

多段階OPMLがLLaMAモデルにおける応用

LLaMAモデルでは、OPMLは二段階の方法を採用しています:

1. ML/DNNの計算プロセスを計算グラフGとして表現し、各ノードに中間計算結果を格納します。
2. モデル推論は計算グラフ上の計算プロセスであり、全体のグラフが推論状態を表します
3. 第2段階では計算グラフ上で検証ゲームを行い、マルチスレッドCPUまたはGPUを利用できます。
4. 第1フェーズでは、単一ノードの計算をVM命令に変換します。これは単一フェーズプロトコルに似ています。

単一のノードの計算が依然として複雑な場合、効率をさらに向上させるために、より多くの段階を導入することができます。

パフォーマンス向上分析

計算グラフにn個のノードがあり、各ノードにm本のVMマイクロ命令が必要で、GPU/並列計算のアクセラレーション比がαであると仮定します:

1. 2ステージOPMLはシングルステージよりもα倍高速です
2. 二段階OPMLのマークルツリーのサイズはO)m+n(であり、単段階のO)mn(よりも著しく小さいです。

多段階設計は計算効率を向上させるだけでなく、システムの拡張性を強化します。

! [OPML:楽観的ロールアップによる機械学習])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(

一貫性と確実性保証

ML結果のクロスプラットフォームの一貫性を確保するために、OPMLは2つの重要な措置を講じました:

1. 定点アルゴリズム)を使用して、量子技術(を固定精度で表現し、計算を実行する
2. ソフトウェアベースの浮動小数点ライブラリを採用し、クロスプラットフォームの機能の一貫性を確保する

これらの技術は、浮動小数点変数とプラットフォームの違いによる課題を効果的に克服し、OPML計算の完全性と信頼性を強化しました。

OPMLとZKMLの比較

OPMLはZKMLと比較して以下の利点があります:

• より低い計算およびストレージコスト
• より高い実行効率
• より大規模なモデルをサポート
• より実現しやすく、展開しやすい

現在OPMLはモデル推論に主に焦点を当てていますが、フレームワークはモデル訓練もサポートしており、さまざまな機械学習タスクに使用できます。OPMLプロジェクトはまだ積極的に開発中であり、興味のある開発者の参加と貢献を歓迎します。

! [OPML:楽観的ロールアップシステムによる機械学習])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(