OPML: Solution d'apprentissage automatique efficace basée sur le mécanisme Optimistic de Blockchain

OPML (Optimistic Machine Learning) est une nouvelle technologie d'apprentissage automatique blockchain qui permet l'inférence et l'entraînement/ajustement des modèles d'IA grâce à la méthode Optimistic. Par rapport à ZKML, OPML présente l'avantage d'un coût faible et d'une efficacité élevée, avec une barrière de participation relativement basse. Actuellement, un PC ordinaire peut faire fonctionner de grands modèles de langage, tels que le 7B-LLaMA de 26 Go, sans GPU.

OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et la vérifiabilité des services ML. Son processus de base est le suivant :

1. Le demandeur lance une tâche de service ML.
2. Le serveur achève la tâche et soumet le résultat sur la blockchain.
3. Les validateurs examinent les résultats, et en cas de désaccord, lancent le jeu de validation.
4. Arbitrage unipolaire via des contrats intelligents

Jeu de validation à une phase

Le OPML à une seule étape utilise un protocole de localisation précise, similaire à la délégation de calcul (RDoC). Les principales caractéristiques comprennent :

• Construire une machine virtuelle (VM) d'exécution hors chaîne et d'arbitrage sur chaîne
• Implémenter une bibliothèque DNN légère pour améliorer l'efficacité d'inférence des modèles d'IA
• Utiliser la technologie de compilation croisée pour compiler le code d'inférence AI en instructions VM
• Les images VM sont gérées par un arbre de Merkle, seuls les hachages racines sont téléchargés sur la Blockchain.

Les tests de performance montrent que le modèle AI de base (DNN de classification MNIST) peut effectuer l'inférence VM sur PC en moins de 2 secondes, et l'ensemble du processus de défi peut être complété en 2 minutes dans un environnement de test Ethereum local.

Jeu de validation multi-niveaux

Pour surmonter les limites des protocoles à une seule étape, OPML a introduit des protocoles multi-étapes afin de tirer pleinement parti des capacités de traitement parallèle et des GPU/TPU. Les principaux avantages de l'OPML multi-étapes :

• Seule la dernière phase est calculée dans la VM, les autres phases peuvent être exécutées dans l'environnement local.
• Amélioration significative des performances d'exécution, proche du niveau de l'environnement local
• Utiliser un arbre de Merkle pour garantir l'intégrité et la sécurité des transitions entre les phases.

À titre d'exemple du modèle LLaMA, la méthode OPML en deux étapes est la suivante :

1. Représenter le processus de calcul ML sous forme de graphique de calcul
2. Vérification du jeu sur le graphique (deuxième étape)
3. Convertir le calcul des nœuds controversés en instructions VM (première phase)

La solution OPML multi-étapes permet une accélération des calculs par un facteur α par rapport à une solution à étape unique (α étant le ratio d'accélération du GPU ou du calcul parallèle). De plus, la taille de l'arbre de Merkle dans la solution multi-étapes est considérablement réduite, ce qui améliore encore l'efficacité et l'évolutivité.

Cohérence et déterminisme

Pour garantir la cohérence des résultats ML, OPML adopte la stratégie suivante :

1. Utiliser des algorithmes à points fixes (techniques de quantification) pour réduire l'erreur d'arrondi en virgule flottante.
2. Utiliser une bibliothèque de flottants basée sur des logiciels pour garantir la cohérence multiplateforme.

Ces méthodes ont efficacement surmonté les défis posés par les variables flottantes et les différences de plateforme, renforçant la fiabilité du calcul OPML.

OPML vs ZKML

OPML présente les avantages suivants par rapport à ZKML :

• Exigences matérielles plus faibles
• Une efficacité d'exécution plus élevée
• Prise en charge de modèles à plus grande échelle
• Formation de modèles possible (ZKML ne supporte que l'inférence)

Il est à noter que le projet OPML est toujours en cours de développement et que les développeurs intéressés sont les bienvenus pour contribuer.