币界网消息,谷歌最新上线的Gemma 4技术报告展示了如何用极简架构让大模型在手机和端侧跑得更快,省下更多内存。Gemma 4 12B模型首次实现了视觉与音频双模态的「无编码器」极简一体化,直接将视觉翻译器砍掉93%,音频翻译器完全干掉,解决了「外挂翻译器」造成的显存浪费。此外,该模型在处理长文本时通过全局注意力复用,减少了37.5%的内存占用。其轻量级端侧版本的预测加速器还将词典范围从26万个缩减到4096个,显著提升了解码速度。



**Traduction en français :**

Message de Bitéjie : le dernier rapport technique Gemma 4 de Google montre comment une architecture minimaliste permet aux grands modèles de fonctionner plus rapidement sur téléphone et en périphérie, tout en réduisant la consommation mémoire. Le modèle Gemma 4 12B a réalisé pour la première fois une intégration minimaliste « sans encodeur » pour les deux modalités vision et audio, supprimant directement 93 % du traducteur visuel et éliminant complètement le traducteur audio, résolvant ainsi le gaspillage de mémoire causé par les « traducteurs externes ». De plus, ce modèle réduit l'occupation mémoire de 37,5 % en réutilisant l'attention globale lors du traitement de longs textes. Sa version légère en périphérie dispose d'un accélérateur de prédiction qui réduit la taille du dictionnaire de 260 000 à 4 096 entrées, accélérant significativement la vitesse de décodage.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 5
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
MultisigOnRocks
· Il y a 3h
Si l'architecture sans encodeur fonctionne vraiment, à l'avenir, les petits modèles pourront également exécuter du multimédia localement.
Voir l'originalRépondre0
AirdropTaxPanic
· Il y a 7h
L'optimisation côté terminal de Google cette fois-ci pave la voie pour l'IA mobile, Apple est sous pression.
Voir l'originalRépondre0
DepegDaydream
· Il y a 7h
Le tableau de vocabulaire de 4096 mots améliore un peu la vitesse de décodage, mais cela sacrifie-t-il la couverture multilingue ?
Voir l'originalRépondre0
GateUser-f78f1f3e
· Il y a 7h
Supprimer 93% du traducteur visuel et ne pas vouloir de codeur audio, cette perte de poids est encore plus sévère que la mienne.
Voir l'originalRépondre0
LimitOrderMonk
· Il y a 7h
Réutilisation de l'attention globale économise 37,5 % de mémoire, les longs textes n'explosent plus la mémoire.
Voir l'originalRépondre0
  • Épinglé