El ecosistema AMD finalmente tiene un modelo de lenguaje de difusión competitivo, ¿cuánto ahorró TiDAR en cálculo con esta jugada?

Zyphra lanza ZAYA1-8B-Diffusion-Preview, convirtiendo el modelo de lenguaje autoregresivo en un modelo de difusión de expertos híbridos, convirtiéndose en el primer modelo de difusión de lenguaje entrenado en el ecosistema de hardware AMD. A través de TiDAR, se evita el preentrenamiento desde cero, permitiendo eliminar 16 tokens simultáneamente en una sola pasada, transformando el cuello de botella de memoria de video en un cuello de botella de potencia de cálculo. Las pruebas muestran una aceleración de 4.6x con atención CCA + muestreo sin pérdida, y hasta 7.7x al cambiar al muestreador de logits híbridos.