Recientemente, tuve la oportunidad de investigar en profundidad sobre Micron Technology. Honestamente, me sorprende la poca presencia que tiene esta compañía. Escondida tras Nvidia y TSMC, casi no recibe atención, pero sostiene la infraestructura de IA en sus cimientos.

Al recordar, en 2012, cuando la japonesa Elpida quebró, fue Micron quien adquirió sus activos. En ese entonces, la industria de memoria DRAM casi había desaparecido de Japón, dominada por Samsung y SK Hynix en Corea. En medio de eso, solo Micron sobrevivió en Estados Unidos como la única empresa capaz de producir en masa chips de memoria avanzados.

¿Por qué sucede esto? Mientras la IA avanza rápidamente, todos hablan solo de la velocidad de cálculo. Rendimiento de GPU, TFLOPS, capacidad de procesamiento. Pero el verdadero cuello de botella está en otro lugar. Es el ancho de banda de memoria.

El tiempo que la GPU pasa esperando datos después de terminar los cálculos, supera el tiempo real de procesamiento. Esto se llama la pared de memoria. Para ejecutar un modelo de 700 mil millones de parámetros, se necesitan aproximadamente 140GB de memoria en formato FP16. La memoria de video en GPUs de alta gama como A100 o H100 oscila entre 80GB y 192GB. Es decir, hay que dividir y procesar los datos entre varias tarjetas.

Para resolver este problema, Nvidia ha colocado memoria de alta banda ancha, conocida como HBM, justo al lado de la GPU. ¿Qué es HBM? Es un paquete que apila varias capas de chips de memoria DRAM verticalmente y los integra en una interconexión de silicio sobre un sustrato. Micron fabrica esta HBM.

La HBM no es solo memoria, sino que puede decirse que es el corazón del cómputo de IA. En la fase de inferencia, la carga de trabajo de la GPU es muy baja, y todo el sistema está completamente limitado por el ancho de banda de memoria. La energía consumida en transferir datos puede ser de 100 a 200 veces mayor que en los cálculos mismos. Es decir, la mayor parte del consumo eléctrico en centros de datos se dedica a la transmisión en bus.

La razón por la que Micron no recibe tanta atención es porque no realiza innovaciones arquitectónicas llamativas. Nvidia innova en el diseño de GPUs. TSMC innova en los procesos de fabricación de chips lógicos. Por otro lado, Micron trabaja en tareas discretas pero fundamentales: avances en procesos con tecnología gamma, empaquetado complejo en apilamiento, optimización de eficiencia energética.

La fabricación de HBM requiere apilar varias capas de chips de memoria DRAM verticalmente, y si alguna capa tiene defectos, todo el módulo se vuelve inutilizable. La tasa de rendimiento total de un HBM3E de 8 capas es aproximadamente del 61%. Para un HBM4 de 12 capas, baja hasta el 48%. El impacto de cada capa no se suma, sino que se multiplica de forma acumulativa.

El hecho de que SK Hynix controle más del 50% del mercado de HBM se debe a que su tecnología de encapsulado líquido MR-MUF mejora directamente el rendimiento de unión entre capas. Por su parte, Micron usa el proceso TC-NCF, que es menos eficiente en disipación de calor. Sin embargo, su HBM consume un 20-30% menos energía, diferenciándose en eficiencia energética.

El mercado mundial de DRAM está dominado por Samsung, SK Hynix y Micron, con un 95%. Pero sus posiciones son muy distintas. Micron tiene la tasa de avance en tecnología de proceso más rápida. Incrementa la densidad de memoria por oblea y reduce el costo de fabricación por bit.

Samsung enfrenta cuellos de botella en el rendimiento en procesos por debajo de 14nm, lo que ha ralentizado su suministro. La velocidad de evolución de proceso de SK Hynix es casi igual a la de Micron.

El ratio precio-beneficio de Micron, de 21 veces, ha subido mucho respecto a las 8-10 veces de las empresas tradicionales de memoria. La razón es su modelo de producción bajo pedido de HBM. Tiene contratos a largo plazo con clientes como Nvidia, fijando precios y cantidades. Se reporta que en 2026, la capacidad de producción de HBM ya está completamente vendida.

Esto ha reducido significativamente la incertidumbre cíclica en la industria de memoria. Wall Street también lo valora, reposicionando a Micron como proveedor de infraestructura. Además, el contexto geopolítico, donde EE. UU. necesita capacidades avanzadas de fabricación de memoria en su territorio, acelera la entrada de fondos institucionales.

El próximo campo de batalla para HBM es CXL. CXL significa Compute Express Link, un protocolo que permite compartir memoria entre múltiples servidores y gestionar automáticamente la coherencia de caché. En centros de datos a gran escala, la tasa de uso inactivo de memoria alcanza el 20-30%. CXL puede resolver esto mediante pooling de memoria.

Micron anunció módulos de expansión de memoria CXL Tipo 3. La HBM ofrece un ancho de banda extremadamente alto, de cientos de gigabytes, con baja latencia, mientras que los módulos CXL permiten capacidades de terabytes y asignación flexible de memoria. Combinando ambos, se puede mantener en HBM los datos más accesados, y en la memoria CXL los datos fríos.

Si respondemos a qué es la HBM, sería que no es solo memoria, sino un producto inevitable en la evolución de la infraestructura de IA. En un escenario donde la capacidad de cálculo crece mucho más rápido que el ancho de banda de memoria, la única solución física a este cuello de botella es la HBM.

A largo plazo, la industria de semiconductores enfrentará límites en la ciencia de materiales. La miniaturización en plano se acerca a límites físicos, y la disminución en el rendimiento del apilamiento 3D aumenta exponencialmente. La computación en memoria también enfrenta contradicciones fundamentales en proceso: los transistores DRAM requieren voltajes bajos, pero los chips lógicos necesitan umbrales bajos. Estas necesidades son completamente incompatibles.

En última instancia, la competitividad de Micron dependerá no solo de una tecnología, sino de su capacidad integral para reducir errores en aspectos como el aumento del rendimiento en el rendimiento, el empaquetado y la integración del sistema. Construir esa capacidad requiere décadas de experiencia en fabricación. Esa es la verdadera fortaleza.