Première publication native adaptée à Ascend : Huawei a officiellement open-sourcé openPangu-2.0-Flash avec 92 milliards de paramètres.

robot
Création du résumé en cours
ME News actualité, le 30 juin (UTC+8), selon la surveillance de Dongcha Beating, Huawei a annoncé l'open source officiel du modèle openPangu-2.0-Flash de Pangu, qui sera bientôt mis en ligne sur la communauté Ascend Tribe de GitCode. Le modèle possède un total de 92 milliards (92B) de paramètres, adopte une architecture de mélange d'experts (MoE), n'active en réalité que 6 milliards de paramètres et prend en charge un contexte ultra-long de 512K. En tant que marque de modèles d'IA open source de Huawei, openPangu s'engage à fournir des références pratiques pour le développement de la puissance de calcul Ascend grâce à la technologie d'entraînement et d'inférence native Ascend. Selon le plan open source, le contenu initial de la version Flash comprend les poids du modèle, le code d'inférence de base et les opérateurs d'entraînement et d'inférence ; les poids et le code d'inférence de l'openPangu-2.0-Pro, plus performants, seront publiés en juillet, et davantage de composants seront progressivement mis en open source au second semestre. (Source : BlockBeats)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé