295 milliards de paramètres, seulement 21 milliards activés, ce concept de sparsité est intéressant. OpenRouter est déjà utilisable, je vais le tester d'abord.

Voir l'original
CoinNetwork
Nouvelles de Bijeijie, Tencent a lancé le dernier modèle phare de la série Hunyuan, Hy3 preview, adoptant l'architecture MoE (experts mixtes, activation de plusieurs petits réseaux experts selon les besoins), avec un total de 295 milliards de paramètres et 21 milliards de paramètres activés. Ce modèle est déjà disponible via l'API OpenRouter et la démo Hugging Face, mais les poids open source n'ont pas encore été publiés. Il s'agit du premier modèle phare dirigé par Yao Shunyu, ancien chercheur d'OpenAI et scientifique en chef de l'IA chez Tencent, après son arrivée, et également le résultat de moins de trois mois après la reconstruction du système de recherche en modèles fondamentaux par Tencent en février de cette année. Tencent le positionne comme « équivalent aux meilleurs modèles nationaux ».
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé