La demanda de memoria de la IA física será mucho mayor de lo que la gente espera

$MU ha dicho que los robots humanoides tienen 10 veces el contenido de memoria de un vehículo L2+ promedio
El automóvil promedio hoy en día tiene alrededor de 16 GB de DRAM, mientras que los vehículos autónomos de nivel L4 pueden requerir más de 300 GB
Se espera que los robots humanoides utilicen plataformas de cómputo comparables a los vehículos autónomos de gama alta
Dado esto, si la IA física escalara a 100 millones de robots humanoides, o robots equivalentes en cómputo, la necesidad total de DRAM sería:
- 100M x 300GB = 30EB
Eso equivale a alrededor del 75 % de la capacidad global de DRAM en 2026
Ya podemos ver prueba de esto con el Jetson Thor de NVIDIA. Dirigido a casos de uso de IA física, viene con 128 GB de LPDDR5X y 273 GB/s de ancho de banda de memoria, el doble de la capacidad de memoria del Jetson AGX Orin
______________________
La razón de estos requisitos de memoria es que los robots no están ejecutando un solo modelo pequeño
Necesitan procesar múltiples cámaras, sensores, datos de profundidad, audio, entradas táctiles y propiocepción mientras ejecutan bucles de percepción, razonamiento y control en tiempo real
Modelos de visión-lenguaje-acción como el GR00T N1 de NVIDIA también añaden presión sobre la memoria, ya que combinan comprensión visual, razonamiento del lenguaje y generación de políticas motoras
______________________
La oportunidad podría ser aún mayor
La IA física requiere modelos del mundo, simulación, generación de datos sintéticos, entrenamiento de políticas, aprendizaje de flotas y reentrenamiento continuo
La plataforma Cosmos de NVIDIA es un ejemplo de esto, utilizando conjuntos de datos masivos de video y modelos fundacionales del mundo para entrenar y evaluar sistemas de IA física
Esto no solo aumenta la demanda de DRAM, sino que también explota la demanda de NAND