ÚLTIMA HORA: Google presentó TurboQuant, una técnica para comprimir la memoria a corto plazo de los modelos de IA y acelerar algunos de sus cálculos.

Mientras los titulares destacaban saltos espectaculares, las pruebas independientes iniciales indican mejoras más modestas, pero aún relevantes para quienes trabajan con contextos largos, documentos extensos y grandes bases de código.
TurboQuant tiene como objetivo reducir el uso de memoria de la caché KV en los modelos de IA y acelerar el procesamiento de indicaciones.