币界网消息,PrismML表示,已将阿里开源模型Qwen3.6-27B压缩至约4GB,并成功在iPhone 17 Pro上运行。Qwen3.6-27B是一个拥有270亿个参数的稠密模型,推理时所有参数均参与计算,而非仅激活部分参数的MOE模型。PrismML称,模型大小从约54GB压缩至不到4GB,性能没有明显下降,适用于复杂对话、推理、agent和代码任务。苹果公司已与PrismML接触,讨论如何将这项技术应用于其设备,尽管高级Siri仍依赖云端模型。

AAPL0,92%
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 4
  • 2
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
PanicSellPaul
· Il y a 4h
Alibaba open source + Apple en contact, cette vague de modèles nationaux exportés en sens inverse vers la Silicon Valley, agréable.
Voir l'originalRépondre0
CandleAfterTheRain
· Il y a 5h
54 Go compressé à 4 Go et peut encore fonctionner sur un téléphone, ce taux de compression est un peu dingue, quelle magie noire PrismML utilise-t-il ?
Voir l'originalRépondre0
LeverageWithdrawalInProgress
· Il y a 5h
27 milliards de paramètres entièrement activés, pas comme l'approche opportuniste de MOE. Si cela n'a vraiment pas de perte de performance, le fond de Qwen3.6 est vraiment solide.
Voir l'originalRépondre0
  • Épinglé