NVIDIA disponibiliza em código aberto a arquitetura TwoTower, alcança uma aceleração de geração de texto de 2,42x
Segundo a Beating, a NVIDIA disponibilizou como código aberto o Nemotron-Labs-TwoTower, uma arquitetura de difusão de texto discreta concebida para acelerar a geração de texto em modelos de linguagem de grande escala. O design de torre dupla desacopla um modelo autorregressivo congelado que preserva a capacidade de raciocínio de uma torre de remoção de ruído treinável que gera texto em paralelo. Utilizando apenas 1/12 dos dados de pré-treino de base num modelo de mistura de especialistas Mamba-T
NVDA2,27%
GateNews·07-02 08:57
