Récemment, j'ai eu l'occasion d'étudier en profondeur Micron Technology. Honnêtement, je suis surpris par la faible présence de cette entreprise. Cachée derrière Nvidia et TSMC, elle reçoit peu d'attention, mais elle soutient l'infrastructure de l'IA.

En y repensant, en 2012, lorsque le japonais Elpida a fait faillite, c'est Micron qui a racheté ses actifs. À l'époque, l'industrie de la mémoire DRAM avait presque disparu du Japon, dominée par Samsung et SK Hynix en Corée du Sud. Parmi eux, Micron était la seule entreprise aux États-Unis capable de produire en masse des puces mémoire avancées, survivant dans ce contexte.

Pourquoi cela se produit-il ? Alors que l'IA se développe rapidement, tout le monde ne parle que de la vitesse de calcul. Performance des GPU, TFLOPS, capacité de traitement. Mais le véritable goulot d'étranglement se trouve ailleurs. C'est la bande passante mémoire.

Le temps que le GPU passe à attendre les données après avoir terminé ses calculs dépasse souvent le temps de calcul lui-même. On appelle cela le mur de la mémoire. Pour exécuter un modèle de 70 milliards de paramètres, il faut environ 140 Go de mémoire en format FP16. La mémoire vidéo des GPU haut de gamme comme l'A100 ou H100 varie entre 80 Go et 192 Go. En conséquence, il faut diviser et traiter les données entre plusieurs cartes.

Pour résoudre ce problème, Nvidia a placé une mémoire à haute bande passante, c'est-à-dire HBM, juste à côté du GPU. Qu'est-ce que c'est ? C'est une empilement vertical de plusieurs dies DRAM, empaquetés sur un interposeur en silicium. Micron fabrique cette HBM.

La HBM n'est pas qu'une simple mémoire, c'est le cœur du calcul IA. Lors de la phase d'inférence, la charge de calcul du GPU est très faible, et tout le système est entièrement limité par la bande passante mémoire. L'énergie consommée pour le transfert de données est 100 à 200 fois supérieure à celle des calculs eux-mêmes. En d'autres termes, la majorité de la consommation électrique des centres de données est consacrée à la transmission sur le bus.

La raison pour laquelle Micron n'attire pas l'attention est qu'ils n'ont pas lancé d'innovations spectaculaires en architecture. Nvidia innove dans la conception de ses GPU. TSMC innove dans le processus de fabrication des puces logiques. Mais Micron reste discret, en se concentrant sur l'essentiel : l'évolution de la technologie de processus en 1 nanomètre, le packaging complexe en empilement, l'optimisation de l'efficacité énergétique.

La fabrication de HBM nécessite d'empiler verticalement plusieurs couches de dies DRAM. Si une couche présente un défaut, tout le module devient inutilisable. Le taux de rendement global d'une HBM3E à 8 couches est d'environ 61%. Pour une HBM4 à 12 couches, il chute à 48%. L'impact de chaque couche ne s'additionne pas, mais se multiplie de manière exponentielle.

SK Hynix détient plus de 50 % du marché HBM, grâce à leur technologie de capsule liquide MR-MUF, qui améliore directement le taux de rendement des liaisons inter-couches. En revanche, Micron utilise le processus TC-NCF, qui est moins performant en dissipation thermique. Cependant, leur HBM consomme 20 à 30 % d'énergie en moins, ce qui leur confère un avantage en efficacité énergétique.

Le marché mondial de la DRAM est dominé à 95 % par Samsung, SK Hynix et Micron. Mais leur position est très différente. Micron progresse le plus rapidement dans la technologie de processus. Ils augmentent la densité de mémoire par wafer et réduisent le coût de fabrication par bit.

Samsung rencontre des problèmes de rendement avec des processus en dessous de 14 nm, ce qui ralentit leur cadence de production. La vitesse d'évolution des processus de SK Hynix est presque équivalente à celle de Micron.

Le ratio cours/bénéfice de Micron, à 21, dépasse largement celui des entreprises mémoire traditionnelles, qui tournent autour de 8 à 10. La raison en est leur mode de production en commande pour HBM. Ils ont conclu des contrats à long terme avec des clients comme Nvidia, fixant prix et quantités. La capacité de production d'HBM en 2026 est déjà entièrement réservée.

Cela a considérablement réduit la cyclicité du marché des mémoires. Wall Street l'a aussi salué, repositionant Micron comme un fournisseur d'infrastructure. De plus, le contexte géopolitique, avec le besoin des États-Unis de développer une capacité avancée de fabrication de mémoire domestique, accélère l'afflux de capitaux institutionnels.

Le prochain enjeu pour HBM est le CXL. CXL, ou Compute Express Link, est un protocole permettant de partager la mémoire entre plusieurs serveurs et de gérer automatiquement la cohérence du cache. Dans les centres de données hyperscale, le taux d'inactivité de la mémoire atteint 20 à 30 %. Le pooling de mémoire via CXL peut résoudre ce problème.

Micron a annoncé un module de mémoire CXL de type 3. La HBM offre une bande passante extrêmement élevée, de plusieurs centaines de gigaoctets, avec une latence faible, tandis que le module CXL peut atteindre plusieurs téraoctets de capacité avec une allocation flexible de mémoire. En combinant les deux, il est possible de stocker les données "chaudes" fréquemment accédées dans la HBM locale, et de décharger les données "froides" dans le pool de mémoire CXL.

Pour répondre à la question "Qu'est-ce que la HBM ?", ce n'est pas qu'une simple mémoire, mais une nécessité dans l'évolution de l'infrastructure IA. Alors que la puissance de calcul croît beaucoup plus vite que la bande passante mémoire, la seule solution pour surmonter ce goulot physique est la HBM.

À long terme, l'industrie des semi-conducteurs sera confrontée aux limites de la science des matériaux. La miniaturisation plane approche de ses limites physiques, et la baisse du taux de réussite du processus en 3D s'accroît de façon exponentielle. L'informatique en mémoire intégrée rencontre aussi des contradictions fondamentales. Les transistors DRAM nécessitent une tension de drain faible, alors que les circuits logiques ont besoin de seuils faibles. Ces deux besoins sont totalement incompatibles.

En fin de compte, la compétitivité de Micron dépendra non pas d'une seule technologie, mais d'une capacité globale à réduire les défauts dans plusieurs aspects : amélioration du taux de rendement, processus de packaging, intégration système. Accumuler cette expertise demande des décennies d'expérience en fabrication. C'est cela le véritable bastion.