$NVDA Jonathan Ross diz que a memória é o maior obstáculo de IA neste momento, mas os obstáculos não são permanentes.

“Sempre que um obstáculo fica grande o suficiente, as pessoas resolvem.”
O aviso dele é que a memória pode permanecer extremamente valiosa enquanto estiver limitada, mas se ficar demasiado cara ou escassa, torna-se o problema que os engenheiros são forçados a atacar.
Se a memória se tornar demasiado um obstáculo, a indústria começará a encontrar formas de reduzir a sua dependência dela.
Ele disse que a memória era “o segmento mais commoditizado da cadeia de abastecimento de semicondutores,” mas agora é uma das restrições mais importantes na IA.
Ross explica isto com a analogia do bem de Giffen. Se a memória ficar mais cara, os clientes podem inicialmente gastar mais nela porque é essencial. Mas, eventualmente, se os preços forem demasiado altos, procuram substitutos.
“se a memória for demasiado cara e as pessoas não a construírem o suficiente, as pessoas vão resolver esse problema tecnologicamente.”
O exemplo do DeepSeek encaixa no seu ponto. Quando o entrevistador menciona que o DeepSeek V4 comprimiu o cache KV em 90%, Ross responde que esse trabalho de engenharia teve um custo de oportunidade.
“Se tivessem memória suficiente, teriam trabalhado noutro projeto. Se não fosse tão caro, teriam trabalhado noutro projeto.”
“Fazendo do problema grande o suficiente. É o papagaio alto. Assim que fica demasiado alto, é cortado.”