Ternary Bonsai, ce nom est astucieux, le poids à trois valeurs est comme une bonsaï soigneusement taillée

Voir l'original
MeNews
PrismML lance le modèle 1.58-bit Ternary Bonsai, réduction des paramètres par 9 fois, surpassant en intelligence ses homologues
PrismML发布Ternary Bonsai系列,采用1.58比特权重{-1,0,+1},显存仅为16位模型的九分之一。8B/4B/1.7B三种规模已在Hugging Face开源,并原生跑在Apple设备。8B权重约1.75GB,基准分75.5,领先同类。iPhone 17 Pro Max上8B速率27 tok/s,能效比提升3–4倍。权重以Apache 2.0分发,通过MLX框架在Apple设备原生运行。
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé