Director ejecutivo de Amazon: negocio de chips valorado en 50 mil millones de dólares, Trainium de cuarta generación completamente suscrito

Según la monitorización de Beating, el CEO de Amazon, Andy Jassy, dedicó una parte significativa de la llamada de resultados del primer trimestre a discutir los chips de desarrollo propio. Afirmó que si el negocio de chips se separara y operara de manera independiente, similar a otras empresas de chips, los ingresos anuales alcanzarían los 50 mil millones de dólares. Según él, el negocio de chips de desarrollo propio de Amazon ha entrado en el top tres a nivel mundial en chips para centros de datos, señalando que “alcanzar esta velocidad es extraordinario”. La situación de oferta y demanda de la cuarta generación de Trainium (el chip de entrenamiento de IA de desarrollo propio de Amazon) es la siguiente: Trainium2 está agotado; Trainium3, que comenzó a enviarse a principios de este año, ofrece un 30% a 40% mejor relación coste-rendimiento en comparación con Trainium2 y está casi completamente suscrito; Trainium4, que no estará ampliamente disponible durante unos 18 meses, ya ha sido reservado en más de la mitad. Jassy mencionó que Trainium ha acumulado más de 225 mil millones de dólares en compromisos de ingresos de contratos de entrenamiento de varios gigavatios con empresas como Anthropic y OpenAI, así como con clientes empresariales como Uber. Jassy calculó que el uso a gran escala de Trainium para inferencia podría ahorrar cientos de miles de millones en CapEx anualmente en comparación con depender de chips externos, con ventajas en margen operativo que alcanzan varios cientos de puntos básicos. La mayor parte de la inferencia para Amazon Bedrock (el servicio de inferencia de modelos de AWS, utilizado por más de 125,000 clientes, incluyendo casi el 80% de las empresas Fortune 100) se realiza en Trainium. Cuando le preguntaron si venderían racks de Trainium directamente, Jassy dijo que necesitan equilibrar entre satisfacer la demanda de los clientes existentes y las ventas externas, pero “es probable que comencemos a vender en los próximos años”. AWS tiene una cartera de pedidos de 364 mil millones de dólares, sin contar el acuerdo de más de 100 mil millones de dólares anunciado por Anthropic la semana pasada.