OPML: Utiliser une méthode optimiste pour optimiser le machine learning sur Blockchain

OPML(Optimistic apprentissage automatique) est une nouvelle technologie qui permet de réaliser l'inférence et l'entraînement/ajustement des modèles d'IA sur un système Blockchain. Par rapport à ZKML, OPML présente l'avantage d'un coût faible et d'une efficacité élevée, offrant aux utilisateurs des services de ML plus pratiques.

Une grande caractéristique de l'OPML est que le seuil de participation est bas. Même un PC ordinaire sans GPU peut exécuter l'OPML, qui inclut des modèles de langage de grande taille comme 7B-LLaMA de 26 Go.

Pour garantir la décentralisation et le consensus vérifiable des services ML, OPML adopte un mécanisme de jeu de validation, similaire aux systèmes Truebit et Optimistic Rollup. Son processus de base est le suivant :

1. Le demandeur lance une tâche de service ML
2. Le serveur termine la tâche et met les résultats sur la Blockchain
3. Les validateurs vérifient les résultats, et en cas de désaccord, ils déclenchent un jeu de validation.
4. Localiser précisément les étapes erronées par le protocole de bipartition
5. Effectuer un arbitrage en une seule étape sur un contrat intelligent

Jeu de validation à une étape

Le cœur du jeu de validation à une seule étape est le protocole de localisation précise, dont le fonctionnement est similaire à celui de la délégation de calcul (RDoC). Lorsque plusieurs parties exécutent le même programme, elles peuvent identifier les étapes contestées par des remises en question mutuelles et les soumettre à un contrat intelligent sur la Blockchain pour arbitrage.

Le jeu de vérification en une seule étape d'OPML présente les caractéristiques suivantes :

• Une machine virtuelle (VM) a été construite pour l'exécution off-chain et l'arbitrage on-chain, garantissant l'équivalence des deux.
• Mise en œuvre d'une bibliothèque DNN légère dédiée, améliorant l'efficacité de l'inférence des modèles d'IA
• Utiliser la technologie de compilation croisée pour compiler le code d'inférence du modèle AI en instructions VM
• Utiliser un arbre de Merkle pour gérer les images VM, n'uploader que la racine de Merkle sur la chaîne.

Après avoir localisé les étapes de litige via le protocole en deux parties, celles-ci sont envoyées au contrat d'arbitrage sur la Blockchain. Les tests montrent que l'inférence du modèle AI de base (MNIST classification DNN) peut être réalisée en moins de 2 secondes sur un PC ordinaire, et l'ensemble du processus de défi prend environ 2 minutes.

Jeu de validation multi-étapes

Les limitations des jeux de validation à une seule étape résident dans le fait que tous les calculs doivent être exécutés dans la VM, ce qui ne permet pas de tirer pleinement parti de l'accélération ou du traitement parallèle des GPU/TPU. Pour résoudre ce problème, OPML a proposé une extension de protocole à plusieurs étapes.

L'idée principale du protocole à plusieurs étapes est : ne calculer que lors de la dernière étape dans la VM, les autres étapes pouvant être exécutées de manière flexible dans un environnement local, en tirant pleinement parti de la capacité de traitement du CPU, GPU, TPU, voire du traitement parallèle. Cela améliore considérablement l'efficacité d'exécution de l'OPML, la rapprochant du niveau de performance de l'environnement local.

Prenons l'exemple d'un jeu validé en deux étapes (k=2) :

• Phase 2 : La "grande instruction" de changement de contexte de calcul correspond à la transition d'état.
• Phase 1 : Jeu de vérification à phase unique similaire, la transition d'état correspond à une micro-instruction VM unique.

Les soumissionnaires et les validateurs lancent d'abord le jeu de validation à la phase 2, localisant les "grandes instructions" contestées. Ensuite, ils passent à la phase 1, localisant les micro-instructions VM contestées, et enfin les envoient à l'arbitrage Blockchain.

Pour garantir l'intégrité et la sécurité de la transition entre les étapes, OPML s'appuie sur l'arbre de Merkle, extrayant des sous-arbres de l'étape supérieure pour assurer la continuité du processus de validation.

Application de l'OPML multi-étapes dans le modèle LLaMA

Dans le modèle LLaMA, OPML utilise une méthode en deux étapes :

1. Représenter le processus de calcul ML/DNN sous forme de graphe de calcul G, chaque nœud stocke les résultats intermédiaires.
2. L'inférence de modèle est le processus de calcul sur le graphe de calcul, l'ensemble du graphe représentant l'état d'inférence.
3. La phase 2 effectue un jeu de validation sur le graphique de calcul, utilisant un CPU ou un GPU multithread.
4. La première phase convertira le calcul d'un nœud unique en instructions VM, similaire à un protocole à une seule phase.

Lorsque le calcul d'un seul nœud reste complexe, il est possible d'introduire davantage d'étapes pour améliorer encore l'efficacité.

Analyse de l'amélioration des performances

Supposons que le graphique de calcul ait n nœuds, chaque nœud nécessitant m micro-instructions VM, le rapport d'accélération GPU/calcul parallèle étant α :

1. Le OPML à deux phases est α fois plus rapide que celui à une phase.
2. La taille de l'arbre de Merkle de l'OPML à deux phases est O(m+n), significativement plus petite que celle de la phase unique O(mn).

La conception multi-étapes améliore non seulement l'efficacité de calcul, mais renforce également l'évolutivité du système.

Garanties de cohérence et de détermination

Pour garantir la cohérence des résultats ML sur plusieurs plateformes, OPML a adopté deux mesures clés:

1. Utiliser l'algorithme à point fixe ( pour quantifier la technologie ), afin de représenter et d'exécuter des calculs avec une précision fixe
2. Utiliser une bibliothèque de flotteurs basée sur des logiciels pour garantir la cohérence des fonctionnalités multiplateformes.

Ces technologies surmontent efficacement les défis posés par les variables à virgule flottante et les différences de plateforme, renforçant ainsi l'intégrité et la fiabilité des calculs OPML.

OPML vs ZKML

OPML présente les avantages suivants par rapport à ZKML :

• Coûts de calcul et de stockage plus bas
• Une efficacité d'exécution supérieure
• Prise en charge de modèles à plus grande échelle
• Plus facile à réaliser et à déployer

Actuellement, OPML se concentre principalement sur l'inférence de modèles, mais le cadre prend également en charge l'entraînement de modèles, pouvant être utilisé pour diverses tâches d'apprentissage automatique. Le projet OPML est toujours en développement actif, et les développeurs intéressés sont encouragés à contribuer.