币界网消息,谷歌最新上线的Gemma 4技术报告展示了如何用极简架构让大模型在手机和端侧跑得更快,省下更多内存。Gemma 4 12B模型首次实现了视觉与音频双模态的「无编码器」极简一体化,直接将视觉翻译器砍掉93%,音频翻译器完全干掉,解决了「外挂翻译器」造成的显存浪费。此外,该模型在处理长文本时通过全局注意力复用,减少了37.5%的内存占用。其轻量级端侧版本的预测加速器还将词典范围从26万个缩减到4096个,显著提升了解码速度。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
岩石上的多签
· 3小时前
无编码器架构要是真跑通,以后小模型也能本地玩多模态了
回复0
AirdropTaxPanic
· 7小时前
谷歌这波端侧优化是给手机AI铺路,苹果压力来了
回复0
Depeg Daydream
· 7小时前
4096词表对解码速度的提升有点意思,但会不会牺牲多语言覆盖?
回复0
GateUser-f78f1f3e
· 7小时前
砍掉93%视觉翻译器还不要音频编码器,这瘦身力度比我还狠
回复0
Limit Order Monk
· 7小时前
全局注意力复用省37.5%显存,长文本终于不用爆内存了
回复0