Introduction

À l'ère numérique, la puissance de calcul est devenue un élément essentiel du progrès technologique. Elle définit les ressources nécessaires aux ordinateurs pour traiter les opérations, y compris la mémoire, la vitesse du processeur et le nombre de processeurs. Ces ressources affectent directement les performances et le coût des appareils, notamment lorsqu'ils traitent plusieurs programmes simultanément. Avec l'adoption généralisée de l'intelligence artificielle et des technologies d'apprentissage en profondeur, la demande de ressources informatiques haute performance, telles que les GPU, a explosé, entraînant une pénurie mondiale d'approvisionnement.

L'Unité Centrale de Traitement (CPU) joue un rôle central en tant que cœur d'un ordinateur, tandis que l'Unité de Traitement Graphique (GPU) améliore significativement l'efficacité de calcul en traitant des tâches parallèles. Un CPU plus puissant peut traiter les opérations plus rapidement, et le GPU soutient efficacement les exigences computationnelles croissantes.

Qu'est-ce que Io.net?

Source: io.net

Io.net est un projet DePIN basé sur Solana, axé sur la fourniture de puissance de calcul GPU aux entreprises d'IA et d'apprentissage automatique, rendant le calcul plus évolutif, accessible et efficace.

Les modèles d'IA modernes sont de plus en plus grands, et l'entraînement et l'inférence ne sont plus des tâches simples pouvant être effectuées sur un seul appareil. Souvent, il est nécessaire d'effectuer des calculs parallèles et distribués, en utilisant les capacités puissantes de plusieurs systèmes et cœurs pour optimiser les performances de calcul ou pour s'adapter à des ensembles de données et des modèles plus importants. La coordination du réseau GPU en tant que ressource de calcul est cruciale dans ce processus.

Équipe et Financement

Antécédents de l'équipe

L'équipe principale d'Io.net était à l'origine spécialisée dans le trading quantitatif. Jusqu'en juin 2022, ils se sont concentrés sur le développement de systèmes de trading quantitatif de niveau institutionnel couvrant les actions et les cryptomonnaies. Avec l'augmentation de la demande en puissance de calcul pour les systèmes backend, l'équipe a commencé à explorer les possibilités de calcul décentralisé, se concentrant finalement sur la résolution de problèmes spécifiques liés à la réduction du coût des services de calcul GPU.

• Fondateur et PDG : Ahmad Shadid, qui a travaillé dans le quant et l'ingénierie financière. Avant Io.net, il était bénévole à la Fondation Ethereum.
• CMO & Chief Strategy Officer: Garrison Yang, qui a rejoint Io.net en mars cette année, a précédemment occupé le poste de VP de la stratégie et de la croissance chez Avalanche et est diplômé de l'Université de Californie, Santa Barbara.
• COO : Tory Green, le directeur des opérations d'Io.net, a précédemment occupé le poste de directeur des opérations chez Hum Capital et de directeur du développement des affaires et de la stratégie chez Fox Mobile Group, et est diplômé de Stanford.

Selon les informations LinkedIn de Io.net, l'équipe a son siège à New York, aux États-Unis, avec une succursale à San Francisco, et compte actuellement plus de 50 membres.

Situation de financement

Io.net a terminé une levée de fonds de série A de 30 millions de dollars dirigée par Hack VC, avec la participation d'autres institutions notables telles que Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs et Solana Labs. De plus, les fondateurs de Solana, Aptos et Animoca Brands ont également participé à cette levée en tant qu'investisseurs individuels. Il est à noter qu'après l'investissement de la Fondation Aptos, le projet BC8.AI, initialement établi sur Solana, est passé à la plateforme L1 également efficace, Aptos.

Remédier à la pénurie de ressources informatiques

Ces dernières années, les avancées rapides de l'IA ont alimenté une explosion de la demande de puces informatiques, les applications d'IA doublant leurs besoins en puissance de calcul tous les trois mois et presque décuplant tous les 18 mois. Cette croissance exponentielle a mis à rude épreuve la chaîne d'approvisionnement mondiale, qui peine encore à se remettre des perturbations causées par la pandémie. Les clouds publics ont généralement un accès prioritaire à plus de GPU, ce qui rend difficile pour les petites entreprises et les institutions de recherche d'obtenir des ressources de calcul, telles que :

• Coûts élevés: l'utilisation de GPU haut de gamme est très coûteuse, atteignant facilement des centaines de milliers par mois pour l'entraînement et l'inférence.
• Problèmes de qualité : les utilisateurs ont peu de choix en ce qui concerne la qualité, le niveau de sécurité, le délai de calcul et d'autres options du matériel GPU et doivent se contenter de ce qui est disponible.
• Restrictions d'utilisation : Lors de l'utilisation de services cloud tels que AWS de Google, GCP ou Microsoft Azure, l'accès prend généralement des semaines, et les GPU haut de gamme sont souvent non disponibles.

Io.net résout ce problème en agrégeant des ressources de calcul sous-utilisées (telles que des centres de calcul de données indépendants, des mineurs de cryptomonnaie, Filecoin, Render et d'autres réseaux de projets cryptographiques) de GPU excédentaires. Ces ressources de calcul forment un réseau de calcul décentralisé, permettant aux ingénieurs d'obtenir une puissance de calcul considérable dans un système facilement accessible, personnalisable et rentable.

Source: io.net

Produits Io.net construits pour quatre fonctionnalités principales

• Inférence par lots et services de modèle : Les données en lots peuvent être traitées en parallèle en exportant l'architecture et les poids des modèles entraînés vers un stockage d'objet partagé. Io.net permet aux équipes d'apprentissage automatique d'établir des flux de travail de services d'inférence et de modèle à travers des réseaux GPU distribués.
• Formation en parallèle : les limitations de la mémoire du CPU/GPU et les flux de travail de traitement séquentiel créent des goulots d'étranglement importants lors de la formation de modèles sur un seul appareil. Io.net utilise des bibliothèques de calcul distribué pour orchestrer et regrouper des tâches de formation, permettant la parallélisation des données et des modèles sur de nombreux appareils distribués.
• Réglage parallèle des hyperparamètres : les expériences de réglage des hyperparamètres sont intrinsèquement parallèles. Io.net utilise une bibliothèque de calcul distribué avec des capacités avancées de réglage des hyperparamètres pour trouver les meilleurs résultats, optimiser la planification et définir les modèles de recherche.
• Apprentissage par renforcement : Io.net utilise une bibliothèque d'apprentissage par renforcement open-source qui prend en charge des charges de travail RL hautement distribuées au niveau de la production et un ensemble d'API simples.

Produits Io.net

IO Cloud

IO Cloud gère des clusters GPU dispersés, offrant un accès aux ressources flexible et évolutif sans avoir besoin d'investissements coûteux en matériel et de gestion d'infrastructure. En utilisant un réseau de nœuds décentralisé, les ingénieurs en apprentissage automatique bénéficient d'une expérience similaire à celle de n'importe quel fournisseur de cloud. Intégré de manière transparente via le IO-SDK, il offre des solutions pour les applications d'IA et de Python et simplifie le déploiement et la gestion des ressources GPU/CPU, s'adaptant aux besoins changeants.

Points forts :

• Couverture mondiale : En utilisant une approche similaire à un CDN, il distribue de manière globale des ressources GPU pour optimiser les services d'apprentissage automatique et d'inférence.
• Scalabilité et efficacité des coûts : Engagé à être la plateforme cloud GPU la plus rentable, elle est censée réduire les coûts des projets d'IA/ML jusqu'à 90%.
• Intégration avec IO SDK: Améliore les performances des projets d'IA grâce à une intégration transparente, créant un environnement unifié haute performance.
• Fonctionnalités exclusives: Fournit un accès privé au plugin OpenAI ChatGPT, simplifiant le déploiement des clusters d'entraînement.
• Support du Framework RAY : Utilise le framework de calcul distribué RAY pour le développement d'applications Python évolutives.
• Innovation dans l'exploitation minière de cryptomonnaie: vise à révolutionner l'industrie de l'exploitation minière de cryptomonnaie en soutenant les écosystèmes de ML et d'IA.

Travailleur IO

Conçu pour optimiser les opérations d'approvisionnement dans les applications Web, IO Worker comprend la gestion des comptes utilisateur, la surveillance des activités en temps réel, le suivi de la température et de la consommation d'énergie, le support à l'installation, la gestion de portefeuille, l'évaluation de la sécurité et l'analyse de rentabilité. Il comble le fossé entre les besoins de puissance de traitement de l'IA et l'offre de ressources informatiques sous-utilisées, facilitant un processus d'apprentissage de l'IA plus rentable et fluide.

Points forts :

• Page d'accueil des travailleurs : Fournit un tableau de bord pour la surveillance en temps réel des appareils connectés, prenant en charge des fonctions telles que la suppression et le renommage des appareils.
• Page de détails de l'appareil: Offre une analyse complète des appareils, y compris le trafic, l'état de la connexion et l'historique des opérations.
• Page Ajouter un appareil : Simplifie le processus de connexion des appareils, prend en charge une intégration rapide et facile des nouveaux appareils.
• Page des gains et récompenses : Suivez les gains et l'historique des opérations avec les détails des transactions disponibles sur Solscan.

Explorateur IO

IO Explorer vise à fournir une fenêtre sur le fonctionnement du réseau, offrant aux utilisateurs des statistiques complètes et des informations opérationnelles sur tous les aspects du cloud GPU. Comme Solscan ou les explorateurs de blockchain fournissent une visibilité sur les transactions de blockchain, IO Explorer apporte un niveau similaire de transparence aux opérations pilotées par GPU, permettant aux utilisateurs de surveiller, d'analyser et de comprendre les détails du cloud GPU, garantissant une visibilité complète des activités réseau, des statistiques et des transactions tout en protégeant la confidentialité des informations sensibles.

Points saillants :

• Page de l'appareil: Affiche les détails publics des appareils connectés au réseau, fournissant des données en temps réel et un suivi des transactions.
• Page d'accueil du navigateur: Offre des informations sur le volume d'approvisionnement, les fournisseurs vérifiés, les numéros de matériel actifs et les prix du marché en temps réel.
• Page des clusters : Affiche des informations publiques sur les clusters déployés dans le réseau, ainsi que des métriques en temps réel et des détails de réservation.
• Surveillance en temps réel des clusters : Fournit des informations immédiates sur l'état, la santé et les performances des clusters, garantissant que les utilisateurs disposent des dernières informations.

Architecture IO

En tant que succursale de Ray, l'IO-SDK forme la base des capacités d'Io.net, prenant en charge l'exécution parallèle des tâches et la gestion des environnements multilingues. Sa compatibilité avec les principaux cadres d'apprentissage automatique (ML) permet à Io.net de répondre de manière flexible et efficace à des demandes computationnelles diverses. Cette configuration technique, soutenue par un système technique bien défini, garantit que la plateforme Io.net peut répondre aux besoins actuels et s'adapter aux développements futurs.

Architecture multi-couches :

• Couche d'interface utilisateur : Fournit une interface frontale visuelle pour les utilisateurs, y compris les sites web publics, les espaces clients et les zones de fournisseur GPU, afin de fournir une expérience intuitive et conviviale.
• Couche de sécurité: garantit l'intégrité et la sécurité du système, en incorporant des mécanismes tels que la défense du réseau, l'authentification de l'utilisateur et l'enregistrement des activités.
• Couche API : En tant que centre de communication pour les sites Web, les fournisseurs et la gestion interne, elle facilite l'échange de données et les opérations.
• Couche arrière : Forme le cœur du système et est responsable de la gestion des clusters/GPU, des interactions avec les clients et de la scalabilité automatique.
• Couche de base de données : Gère le stockage et la gestion des données, avec un stockage principal pour les données structurées et un cache pour la gestion temporaire des données.
• Couche de tâche : Gère la communication asynchrone et l'exécution des tâches, garantissant un traitement efficace des données et un flux.
• Couche d'infrastructure : Constitue la fondation du système, y compris le pool de ressources GPU, les outils d'orchestration et le traitement des tâches d'exécution/ML, équipés d'une solution de surveillance robuste.

Tunnels IO

Les tunnels IO facilitent les connexions sécurisées des clients aux serveurs distants, permettant aux ingénieurs de contourner les pare-feu et les NAT sans configurations complexes, permettant l'accès distant.

Workflow: Les travailleurs IO établissent d'abord une connexion avec un serveur intermédiaire (c'est-à-dire le serveur io.net). Le serveur io.net écoute ensuite les demandes de connexion des travailleurs IO et des machines des ingénieurs, facilitant l'échange de données grâce à la technologie du tunnel inversé.

(Source de l'image: io.net, 2024.4.11)

Application dans io.net : Les ingénieurs peuvent facilement se connecter aux travailleurs IO à travers le serveur io.net, surmontant les défis de configuration réseau pour parvenir à un accès et une gestion à distance.

Avantages :

• Accessibilité : La connexion directe aux travailleurs IO élimine les barrières réseau.
• Sécurité : garantit la sécurité des communications, protège la confidentialité des données.
• Scalabilité et flexibilité: gère efficacement plusieurs travailleurs IO dans différents environnements.

Réseau IO

Le réseau IO utilise une architecture de réseau privé virtuel maillé pour assurer une communication à ultra-faible latence entre les nœuds antMiner.

Caractéristiques du réseau Mesh VPN : Connexions décentralisées : Contrairement aux modèles traditionnels en étoile, le VPN mesh permet des connexions inter-nœuds directes, améliorant la redondance, la tolérance aux pannes et la répartition de la charge.

Avantages pour io.net:

• Les connexions directes réduisent les retards de communication, améliorant les performances de l'application.
• Aucun point de défaillance unique garantit que le réseau continue de fonctionner même si un nœud individuel échoue.
• Renforce la protection de la vie privée des utilisateurs en augmentant la complexité du suivi et de l'analyse des données.
• Intégration facile de nouveaux nœuds sans affecter les performances du réseau.
• Facilite le partage de ressources et le traitement efficace entre les nœuds.

Source : io.net

Comparaison des plateformes de calcul décentralisé

Akash et Réseau Render

Akash et Render Network sont tous deux des réseaux informatiques décentralisés qui permettent aux utilisateurs d'acheter et de vendre des ressources informatiques. Akash fonctionne comme un marché ouvert, offrant des ressources CPU, GPU et de stockage où les utilisateurs peuvent fixer les prix et les conditions, et les fournisseurs enchérissent pour déployer des tâches. En revanche, Render utilise un algorithme de tarification dynamique axé sur les services de rendu GPU, avec des ressources fournies par des fournisseurs de matériel et des prix ajustés en fonction des conditions du marché. Render n'est pas un marché ouvert mais utilise un algorithme de tarification multi-niveau pour mettre en correspondance les acheteurs de services avec les utilisateurs.

Io.net et Bittensor

Io.net se concentre sur les tâches d'intelligence artificielle et d'apprentissage automatique, en utilisant un réseau informatique décentralisé pour exploiter la puissance de calcul GPU dispersée dans le monde entier, et en collaborant avec des réseaux comme Render pour gérer les tâches d'IA et d'apprentissage automatique. Ses principales distinctions résident dans sa concentration sur les tâches d'IA et d'apprentissage automatique et son accent sur l'utilisation de clusters GPU.

Bittensor est un projet blockchain axé sur l'IA visant à créer un marché décentralisé d'apprentissage automatique qui rivalise avec les projets centralisés. En utilisant une structure de sous-réseau, il se concentre sur diverses tâches liées à l'IA, telles que les réseaux IA de texte et l'IA de génération d'images. Les mineurs dans l'écosystème Bittensor fournissent des ressources informatiques et hébergent des modèles d'apprentissage automatique, calculant pour des tâches d'IA hors chaîne, et rivalisant pour offrir les meilleurs résultats aux utilisateurs.

Source: TokenInsight

Conclusion

Io.net est sur le point d'impact significativement le marché prometteur de l'informatique AI, soutenu par une équipe technique expérimentée et un fort soutien d'entités bien connues telles que Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs, et Delphi Digital. En tant que premier et seul GPU DePIN, io.net offre une plateforme qui connecte les fournisseurs de puissance de calcul avec les utilisateurs, mettant en valeur sa fonctionnalité puissante et son efficacité dans la fourniture de flux de travail distribués de formation et d'inférence de réseau GPU pour les équipes d'apprentissage machine.