Actualités de la communauté crypto, PrismML déclare avoir compressé le modèle open source d’Alibaba Qwen3.6-27B à environ 4 Go, et l’avoir fait fonctionner avec succès sur un iPhone 17 Pro. Qwen3.6-27B est un modèle dense comptant 27 milliards de paramètres ; lors de l’inférence, tous les paramètres sont sollicités. PrismML indique que la taille du modèle est passée d’environ 54 Go à moins de 4 Go, sans baisse de performance notable, et qu’il convient aux conversations complexes, à l’inférence, aux tâches d’agent et au code. En outre, PrismML a officiellement open source Bonsai 27B : environ 3,9 Go sur mobile et environ 5,9 Go sur ordinateur ; la version mobile conserve environ 90 % des capacités du modèle d’origine, et la version ordinateur environ 95 %.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 2
  • 1
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
MemeBarista
· Il y a 6h
L’iPhone 17 Pro n’est pas encore sorti, non ? Cette chronologie de la nouvelle semble bizarre, mais pouvoir exécuter 27B sur mobile, c’est quand même très appréciable.
Voir l'originalRépondre0
CapitalCommittee
· Il y a 6h
Ce taux de compression est un peu excessif : 54 Go compressés à 4 Go et ça tourne encore sur un téléphone. La pile technologique de PrismML mérite d’être explorée plus en profondeur.
Voir l'originalRépondre0
  • Épinglé