HBM é o quê? É feito de ouro? Por que é tão caro?

黄仁勋 no palco do GTC ergueu uma placa dessas — o coração da computação de hoje. Mas quase ninguém sabe: a peça mais cara nessa placa não é o próprio GPU, e sim aqueles pedacinhos pretos e discretos ao redor do GPU.

图1：GTC 现场，GB300 主板。故事的主角就在这块板子上。

Ela se chama HBM — High Bandwidth Memory (memória de alta largura de banda).

Este artigo explica: onde fica, como é conectada, por que ela é indispensável e como ela é fabricada.

一、先找到它：显存去哪了

Primeiro, vamos encontrá-la: onde foi parar a memória?

Veja uma “foto de autópsia” de uma placa de vídeo comum. RTX 5090: o GPU (GB202) fica no centro, e ao redor há uma volta inteira de pequenos grânulos pretos — são 16 chips de memória GDDR7. Eles ficam “fora” do GPU, separados por alguns centímetros de trilhas na placa de circuito, onde “conversam” com o GPU.

图2：RTX 5090 PCB 实拍。蓝框是 GPU，绿框里是 16 颗 GDDR7——传统方案，显存在封装外面。

Agora, observe o chip de IA Blackwell. Acontece algo estranho: não há nenhuma memória “fora”. Porque a memória foi levada para dentro do encapsulamento — ao levantar a tampa metálica, ela fica ao lado das duas faces dos die de GPU, encostada em 8 pilhas de HBM; a distância muda de alguns centímetros para alguns milímetros.

图3：Blackwell 封装内部。铜框是 8 栈 HBM3E，蓝框是两颗 GPU die。显存从"门外邻居"变成了"同屋室友"。

Isso não é apenas reposicionar as peças. Por dentro do GPU, foram adicionados 8 controladores de HBM dedicados para “conversar” com elas; as 8 pilhas de HBM3E somam 288GB de capacidade e 8TB/s de largura de banda — esses dois números são a essência vital do chip de IA.

图4：Blackwell Ultra 官方架构图。绿框是 8 个 HBM 控制器，金框是官方参数：288GB HBM3E，8 栈，最高 8TB/s。

O próximo Rubin vai colocar ainda mais. Dá para dizer assim: HBM já é metade do custo dos chips de IA.

图5：Vera Rubin 主板，两颗 Rubin GPU 封装(HBM4 在盖板之下)。

二、GPU 为什么"饿"：厨师与仓库

Para entender por que existe HBM, é preciso entender a dor do GPU. Se imaginarmos o GPU como um cozinheiro, a memória é o armazém, e as trilhas são o caminho por onde passa a comida. Este cozinheiro frita 10.000 pratos por segundo — mas se a comida não chega, nem que ele tenha três cabeças e seis braços adianta.

图6：GPU=厨师，显存=仓库，导线=传菜通道。AI 时代，"菜"是几千亿个模型参数。

A “comida” dos grandes modelos de IA são centenas de bilhões de parâmetros. E a cada passo do cálculo, é preciso mover esses dados de um lado para outro na memória. Então a disputa das placas de vídeo muda de “calcular mais rápido” para “abastecer mais rápido”. A capacidade de alimentar dados é a largura de banda.

三、带宽只有两条路：更快，或者更宽

Os dados trafegam nas trilhas guiados por tensão: tensão alta é 1, tensão baixa é 0, e em um segundo alternam dezenas de bilhões de vezes. Para mandar mais rápido, só há dois caminhos.

O primeiro é aumentar a frequência — fazer as mudanças de nível acontecerem mais rápido. GDDR7 já está altíssima: em uma linha, alterna 28 bilhões de vezes por segundo. Só que a física começa a cobrar: sinal rápido demais se deforma; trilhas vizinhas passam a “se interferir”, como uma fileira de pessoas gritando lado a lado — quanto mais rápido e mais junto, mais ninguém consegue ouvir direito.

O segundo caminho é aumentar a largura de banda — não se busca “mais rápido”; busca-se “mais”, adicionando mais pistas.

图7：GDDR7 是 32 条车道的小路，HBM 是 1024 条车道的高速公路。

Esta é a única fórmula do artigo:

图8：带宽 = 频率 × 位宽。单线的速度，乘以线的数量。

HBM escolheu o caminho de “mais largura”. Uma pilha tem 1.024 linhas de dados — é 32 vezes mais do que uma única GDDR7. E como cada GPU recebe 8 pilhas, o total chega a 8.192 “pistas”. Mesmo que cada pista seja 3 vezes mais lenta, ter 32 vezes mais pistas compensa. Cada pilha entrega 1,2TB por segundo, que equivale a transmitir 300 filmes por segundo.

四、三万根线的灾难

Parece perfeito? Mas, para engenheiros, isso é um desastre. 1.024 linhas de dados são só o começo; ainda é preciso cabos de alimentação, linhas de endereço, linhas de clock — para uma pilha, é necessário “puxar” quase 4.000 linhas; com oito pilhas, são dezenas de milhares de linhas.

O que significa “dezenas de milhares” de linhas? Você somaria todas as fiações elétricas de um prédio inteiro em casa e ainda assim não chegaria a isso. E elas precisam caber dentro de um encapsulamento do tamanho de um cartão.

图9：一栋楼的电线 < 一块封装里的互连数量。问题来了：这些线往哪儿铺？

五、电路板的极限：它的芯是一块布

Primeiro, veja como as placas tradicionais “desenham” trilhas. Muita gente não sabe: a base da placa, na prática, é um tecido — um tecido de fibra de vidro, saturado com resina epóxi e prensado com uma folha inteira de cobre.

Aqui, as trilhas não são montadas uma por uma; elas são “impressas”. No processo: cola-se uma película fotossensível, expõe-se à luz e lava-se com solução; as partes de cobre que não ficam protegidas são corroídas, e o que sobra vira as trilhas.

Só que você precisa saber que o limite desse processo é de dezenas de micrômetros.

图10：玻纤布 + 铜箔 + 感光蚀刻。但这套工艺的极限是线宽几十微米——大约一根头发的一半，对三万根线来说还是太粗了。

六、换一张"纸"：硅中介层

Mas o limite do processo é justamente essa largura de dezenas de micrômetros — cerca da metade de um fio de cabelo. Para dezenas de milhares de linhas, ainda é grosso demais, não cabe.

Então, o que fazer? Trocar a “folha” onde se desenha as trilhas — sair do tecido e ir para o silício. Em wafers de silício, dá para usar fotolitografia para desenhar trilhas (por isso a fotolitografia é tão importante), com tamanho menor que 1 micrômetro: cem vezes mais fino que um fio de cabelo. Com a mesma área, dá para encaixar centenas de vezes mais trilhas.

Esse pedaço de silício, usado especificamente para roteamento, chama-se interposer de silício (silicon interposer). Tanto o GPU quanto o HBM ficam sobre ele, e as dezenas de milhares de linhas são todas roteadas dentro dessa peça de silício. Os chips não ficam “empilhados” uns sobre os outros, mas compartilham a mesma “base” de silício. Nesse formato de empacotamento, a indústria chama de 2.5D.

图11：GPU 与 HBM 并排坐在硅中介层上，底下是密如发丝的光刻走线。这就是图3里"室友关系"的地基。

七、容量：地不够，往天上盖

Além do problema das “pistas”, há um segundo: capacidade. 5090 usa 16 chips de 2GB de GDDR7, totalizando apenas 32GB; já os parâmetros de um grande modelo precisam de centenas de GB — ou seja, falta um dígito de escala. Espalhar? No interposer, nem dá para colocar.

É o mesmo que em cidades: se o terreno não dá, sobe para o céu — empilhar os chips de DRAM como um prédio de 12 andares.

图12：DRAM die 一层层摞起来，容量成倍增长。但新问题来了：楼上楼下，怎么通水电？

八、TSV：楼里的电梯井

Como fazer com que andares tão altos se comuniquem entre si? A resposta chama-se TSV (Through-Silicon Via — vias através do silício). Em cada camada de chip, perfura-se verticalmente milhares de “poços” tipo elevador. O quão finos são esses poços? Diâmetro de 5 micrômetros: um décimo quarto de um fio de cabelo. Com um furo tão fino, não existe broca no mundo que consiga furar; só dá para “digerir” o material com plasma (aka agentes químicos).

Mas o plasma não “obedece”: enquanto “come” para baixo, também “come” pelas laterais, e o furo vira uma esfera. A solução dos engenheiros é o processo Bosch, que funciona em um ciclo de três etapas, que pode ser lembrado como: comer, revestir, e bater—

1. Comer (corrosão): o plasma “come” um pouco para baixo;

2. Revestir (proteção): pulveriza uma camada de teflon, como passar uma tinta impermeabilizante nas paredes do poço;

3. Bater (bombardeio): a chuva vertical de íons/partículas rompe a tinta no fundo do poço, e a próxima rodada só consegue “comer” para baixo.

4. Repete isso até perfurar até a posição especificada

图13：啃、刷、砸，循环几百次，一口笔直的深井就挖好了。井壁上一圈圈的"扇贝纹"，就是循环留下的齿印。

Depois que o poço está pronto: primeiro deposita-se uma camada de filme isolante por deposição em fase vapor para separar cobre e silício; em seguida, mergulha-se o wafer na solução de sulfato de cobre e faz-se eletrodeposição para encher o poço com cobre. Por fim, retira-se a maior parte do wafer pelo verso, lixando 90%, deixando apenas 30 micrômetros — um terço da espessura de uma folha de papel de impressão. Os pilares de cobre ficam expostos pela parte de trás: comunicação entre andares finalmente conectada.

图14：背面减薄到 30 微米(右侧：与打印纸的厚度对比)。每一层芯片都要走一遍这套流程。

九、盖楼的两大门派

Agora é hora de montar os 12 andares. Entre as camadas, usa-se microesferas de solda: cada uma é menor do que uma partícula de pólen; são milhares por camada; e nenhuma pode estar fora do alinhamento. Como soldar e empilhar? Na indústria, existem duas “escolas”:

Depois de soldar o prédio inteiro, injeta-se resina epóxi — melhora o resfriamento e melhora a taxa de yield; fazer revestimento camada por camada + compressão.

图15：左，SK 海力士——整栋焊好，再灌进一炉环氧"混凝土"(MR-MUF);右，三星/美光——铺一层胶膜、压一层楼板(TC-NCF)。

No “concreto” de epóxi da SK Hynix, a condutividade térmica é claramente melhor. Quanto mais alto o prédio, mais o calor se concentra; assim, a condução térmica do material entre as camadas vale ouro. Só por causa desse lote de epóxi, a Hynix venceu o maior contrato da NVIDIA e assumiu a cadeira de número 1 no mercado de HBM.

十、成品，与你要付的账单

Empilhando 12 camadas, um prédio fica com 36GB; oito prédios cercam o GPU, e um chip chega a 288GB; quatro chips em uma placa somam 1.152GB, passando de 1TB — e isso volta para aquela placa da Figura 1, que Huang Renxun ergueu no palco.

Qual é o custo? Para fabricar 1GB de HBM, são necessárias cerca de 3GB da capacidade de produção de wafers de memória comum: o chip de HBM é maior (o TSV ocupa área), o yield de empilhamento em camadas é multiplicado em perdas, e ainda há o uso de etapas de processo e linhas de produção. Enquanto o mundo inteiro constrói “prédios” para IA, os módulos de memória comuns ficam sem suprimento.

图16：同等工厂产能，1GB HBM ≈ 3GB DDR5。这就是这一轮内存涨价的完整机制。

Então, o dinheiro extra que você paga por um módulo de memória, na prática, está pagando o aluguel para a IA.