OPML: Système Blockchain sur l'apprentissage automatique Optimiste

OPML(Optimistic apprentissage automatique) est une nouvelle méthode d'inférence et d'entraînement de modèles d'IA sur Blockchain. Par rapport à ZKML, OPML peut fournir des services d'apprentissage automatique à un coût inférieur et avec une efficacité supérieure. Les exigences matérielles d'OPML sont faibles, un PC ordinaire peut exécuter des modèles de langage de grande taille tels que 7B-LLaMA( avec environ 26GB).

OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et le consensus vérifiable des services ML :

1. Le demandeur lance une tâche de service ML
2. Le serveur termine la tâche et soumet le résultat sur la Blockchain
3. Les validateurs vérifient les résultats, s'il y a des objections, alors le jeu de validation est lancé.
4. Effectuer un arbitrage étape par étape sur le contrat intelligent

Jeu de validation à une étape

Points clés de l'OPML à une seule étape :

• Construire une machine virtuelle équivalente pour l'exécution hors chaîne et l'arbitrage sur chaîne (VM)
• Réaliser une bibliothèque DNN légère et dédiée pour améliorer l'efficacité de l'inférence AI
• Compiler croisé le code d'inférence du modèle AI en instructions VM
• Utiliser un arbre de Merkle pour gérer les images VM, en téléchargeant uniquement le hachage racine sur la chaîne.

Le protocole de bifurcation est utilisé pour localiser les étapes de litige et les envoyer au contrat d'arbitrage sur la blockchain.

Les tests de performance montrent que le modèle AI de base ( MNIST classification DNN ) a terminé l'inférence en moins de 2 secondes dans la VM, et l'ensemble du processus de défi a été complété sur le réseau de test Ethereum local en moins de 2 minutes.

Jeu de validation multi-étapes

Pour surmonter les limitations du protocole à une seule étape, nous proposons un OPML multistage :

• Seules les dernières étapes sont calculées dans la VM, les autres étapes peuvent être exécutées dans l'environnement local.
• Utiliser des accélérateurs matériels tels que CPU, GPU, TPU pour améliorer les performances
• Utiliser un arbre de Merkle pour garantir l'intégrité et la sécurité des transitions entre les phases

OPML en deux étapes basé sur le modèle LLaMA:

1. Deuxième phase : validation du jeu sur le graphe de calcul, pouvant utiliser un CPU ou un GPU multi-thread.
2. Première phase : convertir le calcul d'un seul nœud en instructions VM

La méthode en plusieurs étapes améliore considérablement l'efficacité de la validation, en particulier pour les calculs complexes.

Amélioration des performances

Supposons qu'un graphe de calcul DNN ait n nœuds, chaque nœud nécessitant m instructions VM, le rapport d'accélération GPU étant de α :

1. Le OPML à deux étapes est α fois plus rapide que le OPML à une étape.
2. La taille de l'arbre de Merkle OPML à deux étapes est de O(m+n), bien inférieure à celle de l'étape unique O(mn).

Le cadre multi-étapes améliore considérablement l'efficacité du calcul et l'évolutivité du système.

Cohérence et déterminisme

Pour résoudre le problème d'incohérence des calculs en virgule flottante sur différentes plateformes matérielles, OPML adopte:

1. Algorithme à point fixe ( technologie de quantification ) : utiliser une précision fixe au lieu des nombres à virgule flottante
2. Bibliothèque de points flottants cohérente multiplateforme basée sur le logiciel

Ces méthodes garantissent la cohérence et la fiabilité des résultats de calcul OPML.

OPML vs ZKML

OPML présente les avantages suivants par rapport à ZKML:

• Exigences matérielles plus faibles
• Vitesse d'exécution plus rapide
• Support pour des modèles de plus grande taille
• Applicable à un plus large éventail de tâches ML

Actuellement, OPML se concentre principalement sur l'inférence de modèles, mais le cadre prend également en charge le processus d'entraînement des modèles. Le projet OPML est toujours en cours de développement, et les développeurs intéressés sont les bienvenus pour contribuer.