CITIC Securities: La mejora de la capacidad de almacenamiento se convierte en la necesidad central del razonamiento de los agentes inteligentes actuales. Mantienen una visión optimista sobre la tendencia de crecimiento del almacenamiento

robot
Generación de resúmenes en curso

Noticia financiera de People Money Information del 31 de marzo: un informe de investigación de CICC Securities afirma que la IA está evolucionando de “conversación sencilla” a “agentes inteligentes (Agent)”, impulsando un aumento vertiginoso de la longitud del contexto. Según datos de Epoch AI, la ventana de contexto más larga crece aproximadamente 30x cada año; existe una relación de crecimiento lineal entre la capacidad de memoria de video (KV Cache) y la longitud del contexto, muy por encima de la tasa de avance del hardware. En la actualidad, los principales fabricantes de modelos y de hardware están abordando el cuello de botella de capacidad de cómputo principalmente mediante cuantización, almacenamiento por capas y optimización de la arquitectura del modelo, pero aun así no cambia la necesidad de memoria de video que estalla. CICC Securities considera que la optimización de la memoria de video podría reducir el costo de generación por Token, lo que a su vez estimularía a los usuarios a iniciar mayor concurrencia y contextos más largos; la demanda total de capacidad de cómputo no disminuirá y, por el contrario, aumentará. La mejora de capacidad de cómputo se convertirá en una necesidad central para la inferencia de los agentes actuales, y se mantiene con firmeza una visión positiva sobre la tendencia de crecimiento del almacenamiento.

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado