Bonsai 27B : premier modèle multimodal de niveau 27B pouvant fonctionner sur un téléphone mobile

robot
Création du résumé en cours
ME AI message : Bonsai 27B, basé sur Qwen3.6 27B, propose deux variantes : une version ternaire (1,71 bit effectif/poids, 5,9 Go) et une version 1-bit (1,125 bit effectif/poids, 3,9 Go). Cette dernière a pour la première fois intégré un modèle de niveau 27B dans un iPhone 17 Pro. Le modèle prend en charge le raisonnement multi-étapes, des appels à des outils structurés, des tâches visuelles et des boucles d’agents d’utilisation de l’ordinateur ; il dispose d’une fenêtre de contexte de 262K tokens et prend en charge l’accélération par décodage spéculatif. Sur 15 tests de référence, la variante ternaire conserve 95 % des performances de la base en pleine précision, tandis que la variante 1-bit en conserve 90 %. Les capacités en mathématiques et en codage sont presque sans perte. Le tout est open source sous licence Apache 2.0. 🔗 Lire l’article original : via AI HOT ·
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé