Notícias do Bije, o mais recente relatório técnico do Gemma 4, lançado pela Google, mostra como uma arquitetura minimalista permite que grandes modelos funcionem mais rapidamente em dispositivos móveis e terminais, economizando mais memória. O modelo Gemma 4 de 12B implementa pela primeira vez uma integração visual e de áudio bimodal "sem codificador", reduzindo o tradutor visual em 93% e eliminando completamente o tradutor de áudio, resolvendo o desperdício de memória causado pelos "tradutores externos". Além disso, o modelo, ao processar textos longos através da reutilização de atenção global, reduz a ocupação de memória em 37,5%. A sua versão leve para terminais também reduz o dicionário de 260 mil para 4096 itens através de um acelerador de previsão, aumentando significativamente a velocidade de descodificação.