PrismML a compressé Qwen3.6 à 4 Go, un modèle de 27 milliards de paramètres dans un iPhone.

robot
Création du résumé en cours

Selon le suivi de Beating, le laboratoire d'IA PrismML, co-fondé par le mathématicien Babak Hassibi du California Institute of Technology, a indiqué avoir compressé le modèle open source d'Alibaba, Qwen3.6-27B, et l'avoir exécuté sur un iPhone 17 Pro.

Qwen3.6-27B est un modèle dense de 27 milliards de paramètres. Lors de l'inférence, tous les paramètres sont activés, contrairement à un modèle MoE qui n'active qu'une partie des paramètres.

PrismML affirme que la taille du modèle est passée d'environ 54 Go à moins de 4 Go, sans baisse significative des performances. Il peut être utilisé pour des dialogues complexes, le raisonnement, les agents et les tâches de codage.

Apple a déjà contacté PrismML pour discuter de l'utilisation de cette technologie. Apple souhaite depuis longtemps intégrer davantage d'IA localement sur l'appareil, mais le Siri avancé dépend toujours d'un modèle cloud.

AAPL0,92%
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé