Puissance de calcul: un nouveau modèle commercial à l'ère des grands modèles
L'entraînement de grands modèles nécessite un soutien en puissance de calcul, ce qui a propulsé les services de puissance de calcul en tant que nouveau modèle commercial émergent. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme, l'industrie fait face activement à ce défi.
L'entraînement de modèles linguistiques à grande échelle nécessite d'énormes ressources de calcul. Prenons l'exemple d'un grand modèle météorologique, l'utilisation de 200 cartes GPU pendant deux mois pourrait coûter plus de 2 millions de yuans. Le coût de l'entraînement d'un modèle général pourrait être jusqu'à cent fois plus élevé. Actuellement, la Chine compte plus de 100 grands modèles avec une échelle de paramètres atteignant 1 milliard, mais la demande pour des GPU haut de gamme dépasse l'offre, ce qui constitue le principal défi auquel l'industrie est confrontée.
Pour faire face à la Puissance de calcul insuffisante, les entreprises ont pris diverses mesures:
Utiliser des données de meilleure qualité pour améliorer l'efficacité de l'entraînement
Optimiser l'infrastructure pour un fonctionnement stable au-delà de 1000 kcal.
Améliorer la puissance de calcul et augmenter l'utilisation des ressources
Adopter une architecture de supercalcul pour réduire les coûts
Explorer l'utilisation de plateformes GPU nationales
En même temps, les fournisseurs de puissance de calcul explorent de nouveaux modèles commerciaux. Les méthodes de facturation actuellement dominantes incluent la facturation à la consommation et les forfaits annuels ou mensuels. À l'avenir, nous allons promouvoir "l'intégration et la fusion de la puissance de calcul et du réseau", afin de réaliser une planification flexible entre les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande de grands modèles, la Puissance de calcul en tant que service se développe rapidement pour devenir une chaîne industrielle unique. Bien que la pénurie actuelle de GPU haut de gamme entraîne un phénomène de "chasse aux puces", à long terme, la service de Puissance de calcul est une tendance certaine. Les fournisseurs de Puissance de calcul doivent anticiper et se préparer au développement après le retour à la rationalité du marché.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
4
Partager
Commentaire
0/400
OnchainSniper
· Il y a 16h
Il manque de tout en ce moment.
Voir l'originalRépondre0
BearMarketNoodler
· Il y a 16h
Le marché chassant le prix jusqu'à manquer de puces, et atteignant un niveau de folie, c'est le signal de sommet.
Services de puissance de calcul dans l'entraînement de grands modèles : nouvelles opportunités face aux défis de la pénurie
Puissance de calcul: un nouveau modèle commercial à l'ère des grands modèles
L'entraînement de grands modèles nécessite un soutien en puissance de calcul, ce qui a propulsé les services de puissance de calcul en tant que nouveau modèle commercial émergent. Bien qu'il y ait actuellement une pénurie de GPU haut de gamme, l'industrie fait face activement à ce défi.
L'entraînement de modèles linguistiques à grande échelle nécessite d'énormes ressources de calcul. Prenons l'exemple d'un grand modèle météorologique, l'utilisation de 200 cartes GPU pendant deux mois pourrait coûter plus de 2 millions de yuans. Le coût de l'entraînement d'un modèle général pourrait être jusqu'à cent fois plus élevé. Actuellement, la Chine compte plus de 100 grands modèles avec une échelle de paramètres atteignant 1 milliard, mais la demande pour des GPU haut de gamme dépasse l'offre, ce qui constitue le principal défi auquel l'industrie est confrontée.
Pour faire face à la Puissance de calcul insuffisante, les entreprises ont pris diverses mesures:
En même temps, les fournisseurs de puissance de calcul explorent de nouveaux modèles commerciaux. Les méthodes de facturation actuellement dominantes incluent la facturation à la consommation et les forfaits annuels ou mensuels. À l'avenir, nous allons promouvoir "l'intégration et la fusion de la puissance de calcul et du réseau", afin de réaliser une planification flexible entre les architectures, les régions et les fournisseurs de services.
Avec la normalisation de la demande de grands modèles, la Puissance de calcul en tant que service se développe rapidement pour devenir une chaîne industrielle unique. Bien que la pénurie actuelle de GPU haut de gamme entraîne un phénomène de "chasse aux puces", à long terme, la service de Puissance de calcul est une tendance certaine. Les fournisseurs de Puissance de calcul doivent anticiper et se préparer au développement après le retour à la rationalité du marché.