Lo más importante de hoy es la conferencia GTC de Nvidia, prácticamente una historia resumida de la humanidad en versión IA.

Lo más importante de hoy es la conferencia GTC de Nvidia, prácticamente una historia de la humanidad en versión IA.

Aún no ha salido al escenario Jensen Huang, pero la cantidad de información filtrada ya da para escribir un libro.

晚晚 ha organizado tres puntos clave, vamos, amigos gorditos, síganme.

1）El costo de cálculo de IA se reduce a una décima

La generación anterior, Blackwell, ya era muy potente, ¿verdad? Pronto se anunciará la producción en masa de la nueva generación de chips, Vera Rubin.

¿En qué es impresionante Vera Rubin? En dos palabras: barato.

Ejecutando el mismo modelo de IA,
el número de chips se reduce a una cuarta parte, el costo de inferencia cae un 90%.
Reducción del 90%, amigos.
AWS, Microsoft y Google, los tres principales proveedores de la nube, se suben en la primera ola.

2）Groq, comprado el año pasado por 20 mil millones de dólares, hoy entrega resultados

Antes, Jensen Huang dijo en la reunión de resultados que Groq se integraría como una arquitectura extendida en el sistema de Nvidia, como cuando adquirieron Mellanox para completar su capacidad de red.

El LPU de Groq y la GPU de Nvidia en un mismo centro de datos, la GPU entiende los problemas, el LPU se encarga de dar respuestas rápidamente.

La colaboración entre estos dos chips reduce la latencia en escenarios de agentes.

Un AI Agent hace tareas por ti, un mismo trabajo puede requerir decenas de rondas de ajuste del modelo, cada una consumiendo potencia de cálculo de inferencia, y el usuario espera allí, si va más lento, la experiencia se rompe.

La inferencia tiene dos pasos: primero entender tu problema, luego generar la respuesta palabra por palabra.

La GPU es buena en el primer paso, pero en la velocidad y estabilidad para generar las palabras, el LPU de Groq es más fuerte.

¿200 mil millones de dólares es caro?

Piensa en que en el futuro cada empresa tendrá varios cientos de agentes, cada uno ajustando modelos miles de veces al día.

3）NemoClaw, la versión de Nvidia de OpenClaw, ya en línea

Es una plataforma de código abierto, las empresas pueden instalarla para desplegar empleados IA que hagan tareas, procesen datos y gestionen proyectos en lugar de humanos.
Dicen que ya están en conversaciones con Salesforce y Adobe.

Lo interesante es que NemoClaw no requiere que uses los chips de Nvidia.
Mira qué lógica más interesante.
Vender chips solo genera ganancias en hardware, pero establecer reglas permite ganar en toda la cadena. Jensen Huang tiene esto muy claro.

4）Jensen Huang dice que mostrará un “chip que el mundo nunca ha visto”

Probablemente sea la primera aparición de la arquitectura de próxima generación, Feynman, que estará en producción en 2028, con la tecnología más avanzada de TSMC, 1.6 nm.

Y hay otro rumor poco conocido que me parece bastante interesante.

Nvidia ha lanzado procesadores para laptops, dos modelos, enfocados en juegos.
Los que venden tarjetas gráficas ahora quieren competir por el mercado de CPUs.

晚晚 siento que Jensen Huang en el futuro será una gran figura.