Wenxin 5.1 est officiellement lancé : les paramètres réduits à un tiers de 5.0, le coût de pré-entraînement ne représentant que 6 % de celui de ses pairs

Selon le suivi de Beating, la grande modèle de Baidu Wenxin 5.1 est officiellement en ligne, les utilisateurs peuvent l’expérimenter sur le site officiel de Wenxin Yiyan, et les entreprises ainsi que les développeurs peuvent appeler l’API via la plateforme Qianfan. Wenxin 5.1 est basé sur Wenxin 5.0, publié en janvier de cette année, dont le point fort principal est la compression significative de la taille du modèle et des coûts d’entraînement : le nombre total de paramètres est réduit à environ un tiers de celui de 5.0, les paramètres activés sont environ la moitié, et le coût en puissance de calcul pour le pré-entraînement n’est que de 6 % de celui d’un modèle de même taille. La compression des coûts provient du cadre d’entraînement élastique Once-for-All proposé par Baidu. La méthode traditionnelle nécessite de faire un pré-entraînement séparé pour différentes tailles de modèles, mais Wenxin 5.0 ne fait qu’un seul pré-entraînement, puis optimise simultanément de nombreux sous-modèles de tailles différentes par échantillonnage dynamique. Wenxin 5.1 est la structure optimale extraite de cette matrice de sous-modèles, hérite directement des connaissances de 5.0, et évite la puissance de calcul nécessaire pour un entraînement from scratch. Auparavant, le 30 avril, la version Preview de Wenxin 5.1 a obtenu la première place nationale avec un score de 1476 sur le classement de texte LMArena. La version officielle a encore amélioré ses performances lors des tests de référence : le score de la compétition de mathématiques AIME26 (avec outils) est de 99,6, juste derrière Gemini-3.1 Pro ; la capacité de l’Agent dépasse DeepSeek-V4-Pro ; le classement de recherche Arena avec 1223 points se classe quatrième mondial et premier national.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épingler