La potencia de cálculo de la GPU se ha apilado al máximo, pero está limitada por el ancho de banda de la memoria — la opinión de Jukan es bastante contraintuitiva, pero al pensarlo bien, realmente la posición de HBM en el mundo debería reordenarse.

Mensaje de Bichain, el analista de Citrini Research, Jukan, dijo que la mejora del rendimiento de inferencia de los modelos de IA no se logra solo aumentando las GPU de Nvidia. Las GPU suelen estar en un estado de baja utilización debido a los cuellos de botella de memoria durante la inferencia. El retorno de la inversión en inferencia depende de la memoria, no de la GPU. La importancia de Micron podría superar a la de Nvidia.