Binance News: O mais recente relatório técnico do Gemma 4, lançado pelo Google, mostra como uma arquitetura minimalista pode fazer modelos grandes rodarem mais rápido em celulares e dispositivos de borda, economizando mais memória. O modelo Gemma 4 de 12B implementa pela primeira vez uma integração simplificada "sem codificador" para as duas modalidades visual e auditiva, reduzindo diretamente o tradutor visual em 93% e eliminando completamente o tradutor auditivo, resolvendo o desperdício de memória de vídeo causado por "tradutores externos". Além disso, ao processar textos longos, o modelo reutiliza a atenção global, reduzindo o uso de memória em 37,5%. Sua versão leve para dispositivos de borda também reduz o escopo do dicionário de 260 mil para 4.096, melhorando significativamente a velocidade de decodificação.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 5
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
MultisigOnRocks
· 3h atrás
Se a arquitetura sem codificador realmente funcionar, no futuro, pequenos modelos também poderão executar multimodalidade localmente.
Ver originalResponder0
AirdropTaxPanic
· 7h atrás
A otimização de ponta do Google está pavimentando o caminho para a IA em celulares, e a pressão está chegando para a Apple.
Ver originalResponder0
DepegDaydream
· 7h atrás
O aumento de velocidade de decodificação com um vocabulário de 4096 tokens é interessante, mas será que sacrifica a cobertura multilíngue?
Ver originalResponder0
GateUser-f78f1f3e
· 7h atrás
Cortou 93% do tradutor visual e ainda dispensou o codificador de áudio, essa redução é mais agressiva que a minha.
Ver originalResponder0
LimitOrderMonk
· 7h atrás
Reutilização de atenção global economiza 37,5% de memória, textos longos finalmente não vão estourar a memória.
Ver originalResponder0
  • Fixado