Una publicación que sacude un mercado de billones, ¡el colapso de los chips de almacenamiento...

Nadie esperaba que, este miércoles al abrir el mercado en EE. UU., el sector de chips de almacenamiento enfrentara un «momento negro», con las acciones de los gigantes en verde.

Al cierre, Micron bajó un 4 %, Western Digital un 4.4 %, Seagate un 5.6 %, y SanDisk cayó un 6.5 %.

El catalizador de esta ola de ventas fue el algoritmo de compresión TurboQuant publicado por Google.

Como es bien sabido, cuando los grandes modelos están en marcha, la caché KV (KV cache) es prácticamente una «bestia devoradora de memoria».

Para evitar recalcular los Tokens anteriores, los LLM mantienen una «memoria en funcionamiento», que a medida que la conversación se alarga, crece rápidamente como una bola de nieve.

Google TurboQuant presenta una solución de «reducción» extremadamente «violenta»:

Primero, realiza una «rotación» en los vectores de alta dimensión en la caché KV, y luego los describe en un nuevo sistema de coordenadas polares, eliminando directamente el consumo de memoria.

Luego, con solo 1-bit de espacio adicional, inserta un «corregidor» matemático que elimina con precisión el sesgo sistemático causado por la compresión.

El artículo de TurboQuant será presentado oficialmente en ICLR 2026 el próximo mes.

El resultado es impresionante: sin entrenamiento adicional, TurboQuant comprime la caché a unos increíbles 3 bits.

De esta forma, el consumo de la caché KV se reduce en 6 veces, y lo más importante, el rendimiento en inferencia apenas se ve afectado.

En H100, en comparación con la línea base de 32 bits, la velocidad de atención en cálculo con 4 bits se dispara 8 veces. No solo ahorra espacio, sino que también funciona más rápido.