Lo más importante de hoy es la conferencia GTC de NVIDIA, una especie de historia de la humanidad versión IA.

robot
Generación de resúmenes en curso

Hoy, lo más importante es la conferencia GTC de Nvidia; es literalmente una historia de la humanidad versión IA.

Ni siquiera ha subido todavía Huang Renxun, pero la cantidad de información filtrada de antemano ya alcanza para escribir un libro.

Wannan recopiló tres grandes puntos de interés; vamos, gordos amigos, conmigo.

1)Los costes de cómputo de IA se reducen directamente a una décima parte

La generación anterior de Blackwell ya era bastante potente, ¿no? Bueno, se anunciará en breve la producción en masa del nuevo chip de próxima generación Vera Rubin.

¿Dónde está lo fuerte de Vera Rubin? Dicho sin rodeos: en que es barato.

Ejecutar el mismo modelo de IA, se reduce la cantidad de chips a una cuarta parte y el coste de computación para inferencia cae en un 90%. Caer en un 90%, amigos. AWS, Microsoft y Google, los tres grandes proveedores de la nube, se suben directamente a la primera tanda.

2)Groq, que el año pasado costó 20 mil millones de dólares, hoy entrega la tarea

Antes, Huang Renxun dijo en una reunión de resultados que Groq se incorporaría al ecosistema de Nvidia como una arquitectura de extensión, como cuando en aquel entonces compraron Mellanox para completar capacidades de red.

El LPU de Groq y las GPU de Nvidia están en el mismo centro de datos; las GPU entienden el problema y las LPU se encargan de escupir respuestas rápidamente.

La división del trabajo entre ambos tipos de chips y su coordinación, y en escenarios de Agent la latencia cae directamente.

Los agentes de IA trabajan por las personas: una tarea puede ajustar el modelo decenas de veces, y en cada vuelta se quema potencia de inferencia, mientras el usuario está esperando; si va lento, la experiencia se rompe.

La inferencia se hace en dos pasos: primero entender tu pregunta, y luego “letra por letra” escupir la respuesta.

Las GPU son buenas en el primer paso, pero en el segundo, la velocidad y la estabilidad al escribir, la LPU de Groq es más fuerte.

¿Los 20 mil millones de dólares valen la pena?

Piensa en el futuro: cada empresa ejecutará varios cientos de Agents, y cada Agent ajustará modelos miles de veces al día.

3)Lanzamiento de OpenClaw versión Nvidia, llamado NemoClaw

Es básicamente una plataforma de código abierto: la instalas en la empresa y puedes desplegar empleados de IA que ejecuten procesos por ti, gestionen datos y administren proyectos. Dicen que ya están conversando con Salesforce y Adobe.

Lo interesante está en que NemoClaw no te exige usar chips de Nvidia. Piensa bien este razonamiento. Vender chips solo deja dinero en la capa de hardware; definir reglas es lo que te hace ganar en toda la cadena. Huang Renxun tiene clarísima esa cuenta.

4)Huang Renxun dice que mostrará «chips que el mundo nunca ha visto»

Lo más probable es que sea el primer vistazo a la arquitectura de la penúltima generación, Feynman, que se fabricará en 2028 y con el proceso más avanzado de TSMC de 1,6 nm.

Además, hay otro dato de nicho que me parece bastante interesante.

Nvidia ha sacado procesadores para portátiles: dos modelos, enfocados en videojuegos. Los que venden tarjetas gráficas van a venir a arrebatarte el sustento de vender CPU.

Siento que, en el futuro, Huang Renxun va a convertirse en una figura histórica de una generación.

MSFT2,20%
NVDA0,36%
CRM1,71%
ADBE-1,08%
TSM1,10%
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado