ÚLTIMA HORA: Google presentó TurboQuant, una técnica que busca comprimir la memoria de trabajo de los modelos de lenguaje sin pérdida de información.

Si llega a producción como sugiere la investigación, podría aliviar uno de los principales cuellos de botella en la IA actual: el costo y la escasez de memoria necesaria para manejar contextos largos, agentes y cargas de trabajo de inferencia masivas.
TurboQuant pretende reducir el uso de caché KV hasta seis veces y acelerar el procesamiento en chip hasta ocho veces sin pérdida de datos.