Nvidia lanza la plataforma DSX, continúa avanzando hacia la infraestructura de fábricas de IA

robot
Generación de resúmenes en curso

Organización: Datos de Jin10

NVIDIA (NVDA.O) anunció en la conferencia NVIDIA GTC Taipei en Taipei, China, la plataforma NVIDIA DSX, extendiendo aún más su presencia en el campo de la infraestructura de fábricas de IA.

A diferencia del pasado, donde el enfoque principal era la venta de GPU, DSX intenta ofrecer a las empresas una solución completa para fábricas de IA, desde el diseño, la simulación, el despliegue hasta la gestión operativa.

A medida que aumenta la escala de los modelos de IA, los desafíos en los centros de datos ya no se limitan al rendimiento de los chips, sino que también involucran suministro eléctrico, capacidad de disipación de calor, programación de recursos y eficiencia operativa general. NVIDIA considera que, en el futuro, los indicadores clave de competencia en la industria de IA pasarán gradualmente del rendimiento de un solo chip a la eficiencia de toda la infraestructura, es decir, cómo producir más potencia de cálculo y servicios inteligentes con recursos limitados de energía, espacio y recursos.

Para ello, la plataforma DSX integra los chips, sistemas, software, arquitecturas de referencia y tecnologías de socios de NVIDIA, cubriendo todo el ciclo de vida de la construcción y operación de fábricas de IA. La plataforma, mediante una pila tecnológica unificada de computación, software e instalaciones, ayuda a los clientes a mejorar la velocidad de despliegue, la fiabilidad y la eficiencia operativa, además de reducir los costos de tokens generados durante la inferencia de IA.

Jensen Huang afirmó:

“No solo estamos entregando chips, sino que estamos proporcionando a cada constructor de infraestructura un sistema completo para construir fábricas de IA. Con la plataforma DSX, puedes simular toda la fábrica sin gastar un centavo, verificar el rendimiento antes de instalar el primer bastidor y operar con la fiabilidad necesaria para IA en producción.”

El sistema de software lanzado incluye principalmente DSX MaxLPS y DSX OS.

Entre ellos, DSX MaxLPS utiliza tecnología de enfriamiento líquido a 45 grados Celsius y optimización del consumo de energía a nivel de bastidor para aumentar la producción de tokens por megavatio de electricidad. NVIDIA afirma que esta tecnología puede desplegar hasta un 40% más de GPU con un impacto mínimo en el rendimiento, reduciendo aún más los costos de cálculo bajo un presupuesto eléctrico fijo.

DSX OS es una plataforma de software de código abierto para la operación de fábricas de IA, que soporta gestión del ciclo de vida, programación inteligente, automatización de salud, operación multiinquilino y servicios de plataforma. NVIDIA también abrirá bibliotecas de software modulares, API, diseños de referencia y plataformas de cálculo acelerado para construir una arquitectura de software unificada.

Además del software principal, DSX integra varias capacidades existentes. El Diseño de Referencia DSX ofrece arquitecturas de referencia para computación, redes, almacenamiento, suministro de energía y sistemas de refrigeración; DSX Sim soporta simulaciones y optimización digital twin de todo el proceso, desde planificación hasta operación; DSX Flex ajusta dinámicamente la carga de trabajo según la demanda de la red eléctrica y los cambios en los precios de la electricidad; y DSX Exchange permite la colaboración de datos entre sistemas de computación, red, energía y refrigeración.

En términos de implementación comercial, proveedores de servicios en la nube como CoreWeave, Crusoe, IREN y Lambda ya han desplegado componentes centrales de DSX para mejorar la utilización de GPU y acortar el tiempo de lanzamiento de servicios en la nube de IA.

El ecosistema de hardware también se está expandiendo en paralelo. Fabricantes como Dell Technologies (DELL.N), HPE (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), Asus, Foxconn, GIGABYTE, Wistron y Quanta Cloud Technology están desarrollando sistemas NVIDIA DSX listos para ayudar a los clientes a construir fábricas de IA de pila completa.

Al mismo tiempo, DSX Flex ha llevado a cabo proyectos piloto comerciales con Emerald AI y Silicon Valley Power, verificando la capacidad de ajustar dinámicamente el consumo de energía de las fábricas de IA según la demanda de la red eléctrica.

Desde una perspectiva estratégica, DSX marca la transición de NVIDIA de ser un proveedor de chips de IA a convertirse en un proveedor de plataformas de infraestructura de IA. Al integrar chips, software, arquitectura de centros de datos, gestión operativa y programación energética en un sistema unificado, NVIDIA busca establecer estándares industriales que cubran todo el ciclo de vida de las fábricas de IA y consolidar aún más su liderazgo en el mercado global de infraestructura de IA.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado