Los costos de cómputo de IA están aumentando constantemente, y el precio de las GPU fluctúa "como el petróleo" según la oferta y la demanda.

Los costos de infraestructura de IA están experimentando una fuerte volatilidad, y la imprevisibilidad de los precios de los servidores GPU se ha convertido en un desafío central para los proveedores de servicios en la nube y los desarrolladores de IA.

Según informa The Information, impulsados por la escasez de chips de memoria y otros componentes clave, los precios de los servidores de IA de NVIDIA han seguido aumentando en los últimos meses, con fluctuaciones de hasta el 40% en los costos de algunos componentes en una sola semana. Esta situación ha obligado a varios proveedores de servicios en la nube a aumentar los precios de alquiler para los desarrolladores de IA. Nebius, un proveedor de servicios en la nube de GPU, aumentó los precios de alquiler de potencia de cálculo bajo demanda en aproximadamente un 30% el 1 de junio, y Amazon AWS anunció posteriormente que los precios de los bloques de capacidad EC2 aumentarían alrededor de un 20% a partir del 1 de julio.

La fuerte volatilidad de los precios está reconfigurando la estructura de costos de todo el mercado de cómputo de IA. Carmen Li, CEO del proveedor de datos de precios Silicon Data, señaló que los precios de alquiler de GPU que los proveedores de servicios en la nube cobran a los clientes ya muestran características impulsadas por la oferta y la demanda similares a las de los mercados de materias primas como el petróleo. Los clientes pequeños y medianos que alquilan potencia de cálculo bajo demanda son los más afectados, y la falta de transparencia en el mecanismo de fijación de precios del mercado agrava aún más la desventaja informativa de los compradores.

Costos de componentes altamente volátiles, ventana de precios de servidores extremadamente estrecha

La inestabilidad de los precios de los servidores GPU tiene su origen en la extrema tensión de la cadena de suministro de componentes upstream.

Según una persona que vende servidores de NVIDIA a proveedores de servicios en la nube, el costo de los componentes necesarios para un rack de servidores puede fluctuar hasta un 40% en una sola semana, involucrando obleas de entrada fabricadas por TSMC, empaquetado conjunto, redes, refrigeración y, el más significativo, los componentes de memoria. La persona afirmó directamente que el precio de los racks de servidores GPU "fluctúa muy violentamente", "todo puede cambiar por completo en dos o tres semanas, es imposible predecir la tendencia de los precios, solo se puede fijar el precio en una ventana extremadamente corta", sin poder planificar costos a más largo plazo.

Un ejecutivo de un proveedor de servicios en la nube de GPU indicó que los racks de servidores que compra han aumentado de precio aproximadamente un 2% a 3% cada semana recientemente. Otro ejecutivo de un competidor señaló que la unidad de almacenamiento NVMe en el rack NVIDIA Grace Blackwell 300 es la principal fuente de volatilidad de precios, que hace unos meses era "muy severa", y actualmente el costo del rack es entre un 10% y un 15% más alto que el "precio base" que consideran. La tendencia alcista del rack GB300 parece estar estabilizándose, con un aumento mensual de alrededor del 1%.

El impacto de la volatilidad de los precios se ve enormemente amplificado por las grandes cantidades absolutas. Solo un rack lleno de sistemas de chips Grace Blackwell 300, cada sistema de chips se vende por 70,000 dólares, un rack completo con 72 unidades tiene un precio total de aproximadamente 5 millones de dólares, y algunos clientes realizan pedidos únicos de hasta miles de racks. Según un ejecutivo de un cliente que está comprando racks Vera Rubin, se espera que el precio de ese modelo sea de aproximadamente 7 millones de dólares.

El poder de fijación de precios se transmite gradualmente a lo largo de la cadena de suministro, con NVIDIA y los fabricantes de memoria teniendo el control dominante

Detrás de este aumento de costos se encuentra una alta concentración del poder de fijación de precios en todos los eslabones de la cadena de suministro.

La persona de ventas de servidores mencionada anteriormente dijo que NVIDIA "puede exigir prácticamente cualquier precio". Un portavoz de NVIDIA respondió que el precio depende del costo de los componentes del rack del servidor, y que la empresa colabora con los proveedores de servidores para fijar los precios, los cuales pueden variar entre diferentes proveedores. Los datos muestran que el margen bruto de NVIDIA ha aumentado de 15 a 20 puntos porcentuales en los últimos años, lo que confirma su fuerte capacidad de fijación de precios en el mercado.

Al mismo tiempo, los fabricantes de chips de memoria, representados por Micron, están ejerciendo una presión de precios similar sobre NVIDIA y otros clientes, impulsando aumentos de precios en toda la línea de productos, desde las Mac de Apple hasta las GPU de NVIDIA.

Carmen Li señaló que una vez que los chips salen de NVIDIA, los precios de alquiler que los proveedores de servicios en la nube ofrecen al exterior comienzan a mostrar la lógica de oferta y demanda de los mercados de materias primas. Según sus datos, el precio de alquiler del chip Blackwell 200 ha aumentado aproximadamente un 20% en lo que va del año; el precio de alquiler de los chips NVIDIA más antiguos, después de haber acumulado un aumento de más del 20% en el último año, se ha mantenido básicamente estable en los últimos 30 días.

Los clientes pequeños y medianos son los más presionados, y existe una falta estructural de transparencia en la fijación de precios del mercado

En esta ronda de aumentos de precios, los clientes que alquilan potencia de cálculo bajo demanda se encuentran en la posición más vulnerable.

Los proveedores de servicios en la nube están explorando los límites de precios en el actual entorno de escasez de GPU, o están inclinando los recursos de servidores hacia los grandes clientes, lo que reduce los recursos de cómputo disponibles para los clientes pequeños y medianos. Sin embargo, la tendencia de los precios no es unidireccional. Un ejecutivo de una empresa desarrolladora de modelos de IA indicó que, después de que los precios se duplicaran en el mes o dos anteriores, en las últimas dos semanas los precios en realidad han caído. Esta divergencia refleja que el mercado de servicios en la nube de GPU todavía se encuentra en una etapa relativamente temprana, y con la proliferación de proveedores de servicios en la nube de GPU, la estructura del mercado aún no se ha consolidado.

La falta de transparencia en los precios agrava aún más la incertidumbre de los compradores. Los proveedores de servicios en la nube de GPU generalmente no divulgan públicamente los precios reales, lo que hace que el poder de fijación de precios esté realmente en manos de los proveedores de servicios, no de los clientes.

Un inversor de un proveedor de servicios en la nube de GPU expresó su preocupación al respecto: "Para nuestros clientes principales, existe un punto de inflexión: una vez que las cuentas no cuadran, su negocio se vuelve insostenible, y nosotros no queremos cruzar esa línea roja bajo ninguna circunstancia." Esta declaración revela que el aumento continuo de los costos de cómputo finalmente impondrá una restricción sustancial a la viabilidad comercial de la capa de aplicaciones de IA.

Aviso de riesgo y cláusula de exención de responsabilidad

        El mercado tiene riesgos, invertir con precaución. Este artículo no constituye un consejo de inversión personal, ni considera los objetivos de inversión, situación financiera o necesidades particulares de usuarios individuales. Los usuarios deben considerar si las opiniones, puntos de vista o conclusiones de este artículo se ajustan a su situación particular. Invertir en consecuencia es bajo su propia responsabilidad.