Apprentissage automatique optimiste : services d'IA blockchain efficaces et à faible coût
Optimistic machine learning ( OPML ) est une nouvelle technologie permettant l'inférence et l'entraînement/ajustement de modèles d'IA sur des systèmes Blockchain. Comparé à ZKML, OPML offre des services de ML plus économiques et efficaces, avec des barrières d'entrée plus faibles. Actuellement, un PC ordinaire peut exécuter de grands modèles linguistiques, tels que le 7B-LLaMA d'une taille de 26 Go, sans GPU.
OPML adopte un mécanisme de jeu de validation pour garantir la décentralisation et le consensus vérifiable des services ML. Son processus est le suivant :
Le demandeur lance une tâche de service ML
Le serveur termine la tâche et soumet les résultats sur la Blockchain
Résultats de l'audit des validateurs, en cas de désaccord, lancer le jeu de vérification
Arbitrage final par contrat intelligent
Le jeu de validation à une seule étape d'OPML est similaire au calcul de la délégation (RDoC). Il construit une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne, et met en œuvre une bibliothèque DNN légère spécialisée pour améliorer l'efficacité du raisonnement AI. L'image de la machine virtuelle est gérée par un arbre de Merkle, ne téléchargeant que le hachage racine sur la chaîne.
La principale limitation des jeux de vérification à une seule étape réside dans le fait que tous les calculs doivent être effectués à l'intérieur de la machine virtuelle, ce qui empêche d'exploiter pleinement l'accélération GPU/TPU. Pour résoudre ce problème, OPML a proposé un protocole de vérification multi-étapes. Dans le protocole multi-étapes, seule la dernière étape nécessite des calculs dans la VM, tandis que les autres étapes peuvent être exécutées de manière flexible dans un environnement local, améliorant ainsi considérablement les performances.
Prenons le modèle LLaMA comme exemple, le flux de travail de l'OPML en deux étapes est le suivant :
La deuxième phase consiste à valider le jeu sur le graphique de calcul, en utilisant un CPU ou un GPU multi-thread.
La première phase convertit le calcul d'un nœud unique en instructions VM pour vérification.
Le OPML multi-étapes permet d'atteindre une accélération des calculs par un facteur α par rapport au OPML à une seule étape, où α représente le rapport d'accélération des GPU ou du calcul parallèle. De plus, la taille de l'arbre de Merkle du OPML multi-étapes est également significativement plus petite que celle du OPML à une seule étape.
Pour garantir la cohérence des résultats ML, OPML utilise des algorithmes à virgule fixe et une bibliothèque de flottants basée sur des logiciels. Ces techniques peuvent atténuer l'impact des erreurs d'arrondi flottant et assurer la cohérence des résultats entre les plateformes.
Dans l'ensemble, OPML offre une solution efficace, économique et évolutive pour les services d'IA sur la Blockchain. Il prend non seulement en charge l'inférence de modèles, mais peut également être utilisé pour l'entraînement de modèles, constituant ainsi un cadre d'apprentissage automatique universel.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
9 J'aime
Récompense
9
3
Partager
Commentaire
0/400
RumbleValidator
· Il y a 14h
L'efficacité de la vérification dépasse de loin mes attentes. J'approuve vraiment cette architecture.
Voir l'originalRépondre0
BlockchainThinkTank
· Il y a 14h
Je conseille à tout le monde de faire preuve de prudence dans leur jugement, des projets similaires à ML ont échoué en 2018, il faut bien réfléchir avant de suivre la tendance.
Voir l'originalRépondre0
DancingCandles
· Il y a 14h
bull ah buddy n'a pas besoin de carte graphique pour faire de l'IA
Apprentissage machine optimiste : la voie de l'innovation des services AI Blockchain
Apprentissage automatique optimiste : services d'IA blockchain efficaces et à faible coût
Optimistic machine learning ( OPML ) est une nouvelle technologie permettant l'inférence et l'entraînement/ajustement de modèles d'IA sur des systèmes Blockchain. Comparé à ZKML, OPML offre des services de ML plus économiques et efficaces, avec des barrières d'entrée plus faibles. Actuellement, un PC ordinaire peut exécuter de grands modèles linguistiques, tels que le 7B-LLaMA d'une taille de 26 Go, sans GPU.
OPML adopte un mécanisme de jeu de validation pour garantir la décentralisation et le consensus vérifiable des services ML. Son processus est le suivant :
Le jeu de validation à une seule étape d'OPML est similaire au calcul de la délégation (RDoC). Il construit une machine virtuelle pour l'exécution hors chaîne et l'arbitrage sur chaîne, et met en œuvre une bibliothèque DNN légère spécialisée pour améliorer l'efficacité du raisonnement AI. L'image de la machine virtuelle est gérée par un arbre de Merkle, ne téléchargeant que le hachage racine sur la chaîne.
La principale limitation des jeux de vérification à une seule étape réside dans le fait que tous les calculs doivent être effectués à l'intérieur de la machine virtuelle, ce qui empêche d'exploiter pleinement l'accélération GPU/TPU. Pour résoudre ce problème, OPML a proposé un protocole de vérification multi-étapes. Dans le protocole multi-étapes, seule la dernière étape nécessite des calculs dans la VM, tandis que les autres étapes peuvent être exécutées de manière flexible dans un environnement local, améliorant ainsi considérablement les performances.
Prenons le modèle LLaMA comme exemple, le flux de travail de l'OPML en deux étapes est le suivant :
Le OPML multi-étapes permet d'atteindre une accélération des calculs par un facteur α par rapport au OPML à une seule étape, où α représente le rapport d'accélération des GPU ou du calcul parallèle. De plus, la taille de l'arbre de Merkle du OPML multi-étapes est également significativement plus petite que celle du OPML à une seule étape.
Pour garantir la cohérence des résultats ML, OPML utilise des algorithmes à virgule fixe et une bibliothèque de flottants basée sur des logiciels. Ces techniques peuvent atténuer l'impact des erreurs d'arrondi flottant et assurer la cohérence des résultats entre les plateformes.
Dans l'ensemble, OPML offre une solution efficace, économique et évolutive pour les services d'IA sur la Blockchain. Il prend non seulement en charge l'inférence de modèles, mais peut également être utilisé pour l'entraînement de modèles, constituant ainsi un cadre d'apprentissage automatique universel.