NVDA丨Huang Renxun: Los centros de datos se convertirán en fábricas de producción de tokens inteligentes

La empresa estadounidense de chips NVIDIA, CEO Jensen Huang, pronunció un discurso principal en la conferencia anual de inteligencia artificial (IA) GTC el lunes, definiendo el concepto de “fábrica de tokens” y señalando que en el futuro los centros de datos ya no serán solo centros de almacenamiento, sino fábricas de tokens inteligentes.

Huang anunció que la demanda de computación está entrando en una fase de rápido crecimiento, proyectando que la demanda de capacidad de cálculo desde ahora hasta 2027 se duplicará de 500 mil millones de dólares a 1 billón de dólares. Dijo que la demanda de los últimos productos de NVIDIA está en un nivel sin precedentes, y que todos los principales actores en el campo de la computación están utilizando la tecnología de NVIDIA para desarrollar sus proyectos.

Huang enfatizó que, mediante un diseño colaborativo extremo, el costo por token de NVIDIA ha alcanzado un nivel de clase mundial e inamovible, obligando a los líderes globales a gestionar la producción de tokens como si administraran activos. NVIDIA no es solo una compañía de semiconductores, la historia de su crecimiento apenas comienza, y “aceleraremos el desarrollo de todos”.

NVIDIA también reveló una nueva arquitectura, llamada Vera Rubin, que utiliza un diseño completamente líquido para enfriamiento, introduciendo la CPU Vera optimizada para tareas inteligentes. La principal innovación consiste en integrar la tecnología de procesadores de flujo determinista del equipo Groq, logrando “desacoplar el inferencia” mediante el software Dynamo, y utilizando la enorme memoria de Rubin para manejar contextos complejos. Con los chips de Groq, la generación de tokens en fábricas de gigavatios alcanza una velocidad sorprendente, con un aumento de 350 veces en la generación de tokens.