torygreen

La velocidad de inferencia está empezando a importar para los agentes de una forma mucho más amplia que simplemente hacer que las respuestas parezcan más rápidas.
El nuevo CS-4 de Cerebras afirma ofrecer una inferencia hasta 30 veces más rápida que los sistemas de GPU, con más de 4.400 tok/s en GPT-OSS-120B.
Para los agentes, esa velocidad se convierte en presupuesto adicional de razonamiento.
En la misma ventana de 30 segundos, un sistema más rápido puede explorar más rutas, reintentar fallos, realizar más verificaciones o usar un modelo más grande sin hacer esperar más al usuario.
Por eso, l

La programación quizá solo haya sido el primer mercado de agentes, no el más grande.
Desde febrero, los usuarios activos semanales de Codex crecieron :
> 108x en el ámbito jurídico,
> 41x en ventas,
> 41x en contratación
> 26x en marketing.
El área de ingeniería solo creció 5x.
Y para junio, el uso de agentes ya representaba el 64 % de los tokens de salida combinados de Codex + ChatGPT entre los clientes empresariales.
Probablemente el software era el lugar más fácil para empezar porque el trabajo está estructurado, requiere muchas herramientas y es relativamente fácil de verificar.
Ahora que

La interconexión de IA empieza a parecer su propio miniciclo de capex.
@Cisco cerró el ejercicio fiscal 2026 con pedidos de infraestructura de IA de 9300 millones de dólares por parte de los hyperscalers y prevé que los ingresos por infraestructura de IA pasen de ~$4B a 7500 millones de dólares el próximo año. Arista acaba de crecer un 37,7 % interanual hasta los 3040 millones de dólares
Creo que el cambio interesante está en hacia dónde empieza a dirigirse el dólar marginal de la IA.
La primera fase del despliegue estuvo dominada por poner en funcionamiento tantos aceleradores como fuera pos

Es una locura que la creciente escasez de memoria ya esté empezando a rediseñar el panorama de las GPU antes incluso de que se lancen.
@nvidia está probando ahora opciones de HBM con menos capas para Rubin Ultra. El diseño original de HBM4e de 12-Hi, que podría alcanzar 14–16 Gbps, mientras que la nueva alternativa optimizada de HBM4 podría situarse en 11–12.
El atractivo es el volumen. Menos capas de DRAM por acelerador permiten que la misma oferta de obleas se distribuya entre más GPU.
Pero el modelo no se reduce porque lo haya hecho la pila de memoria. Cuando tiene que repartirse entre más

Así que ya hemos superado ~$1T en capex de centros de datos globales, encaminándonos hacia 1,7 billones de dólares para 2030. Desde $455B en 2024.
Eso es casi 4 veces en seis años. Los cuatro hiperescaladores de EE. UU. se duplican aproximadamente en ese tramo. El resto: neoclouds, laboratorios de IA, proyectos soberanos… es lo que realmente curva la tendencia, creciendo alrededor de 39% al año en promedio. Para 2030, Amazon, Google, Meta y Microsoft son solo cerca de la mitad.
Hace dos años, la expansión era básicamente de cuatro empresas. Ahora es todo un campo de ellas, y el dinero nu