CITIC Securities: La demanda total de capacidad de almacenamiento no disminuirá sino que aumentará, manteniendo una visión optimista sobre la tendencia de crecimiento del almacenamiento

Rui Finance Yan Minghui

Recientemente, un informe de investigación de CICC (China International Capital Corporation) afirmó que la IA evoluciona desde “conversación sencilla” hacia “agentes (Agent)”, impulsando un aumento explosivo de la longitud del contexto.

Según datos de Epoch AI, la ventana de contexto más larga crece aproximadamente 30x cada año; la relación entre la capacidad de memoria de video del KV Cache y la longitud del contexto es lineal, superando con creces la tasa de crecimiento del rendimiento de las configuraciones de hardware. En la actualidad, los principales proveedores de modelos y de hardware, para resolver el cuello de botella de capacidad de cómputo, se centran sobre todo en la cuantización, el almacenamiento jerárquico y la optimización de la arquitectura del modelo, pero esto aún no cambia la necesidad de que la memoria de video explote.

CICC considera que la optimización de la memoria de video podría reducir el costo por generación de cada token, y así estimular a los usuarios a habilitar una mayor concurrencia y contextos más largos. La demanda total de capacidad de cómputo no disminuirá, sino que aumentará aún más. La actualización de la capacidad de cómputo se convertirá en la necesidad central de inferencia de los agentes actuales, y mantiene una visión firmemente positiva sobre la tendencia de crecimiento del almacenamiento.

Empresas relacionadas: CICC sh600030