1/ 🧠 Por que é que os futuros computadores pessoais de IA (como o NVIDIA DGX Spark) podem realmente competir com os centros de dados?

Não é porque o desktop se torna tão forte que substitui a nuvem, mas porque a "estrutura de procura" da IA está a dividir-se ——
O treino fica na nuvem, a inferência volta para o local.
2/ Avanço chave 1: FP4 reescreve as regras do jogo
Um modelo de 70B parâmetros, com FP16 precisa de 140 GB de memória;
Mudando para FP4 → apenas 35 GB.
Um desktop com 128 GB de memória unificada consegue executar um modelo que antes exigia 8 GPUs H100 para ser carregado.
Perda de precisão? Com QAT (treino consciente da quantização) é quase insignificante.
3/ Avanço chave 2: A barreira de memória está a ser quebrada
Largura de banda LPDDR5X insuficiente?
•Apple M4 Ultra com largura de bits ultra larga atinge ~800 GB/s
•LPDDR6 (2027) duplica a largura de banda
•NVIDIA DGX Spark com GB10 + arquitetura de memória coerente
O desktop já não é uma "GPU castrada", mas sim uma "nova espécie otimizada para inferência".
4/ Avanço chave 3: Você realmente não precisa de um centro de dados
O centro de dados resolve:
✅ Treinar modelos de fronteira (parâmetros da ordem dos triliões)
✅ Servir milhares de milhões de utilizadores em todo o mundo em simultâneo
O que um indivíduo precisa:
✅ Um cérebro local capaz de executar modelos de 70B–200B
✅ Privacidade, baixa latência, sem mensalidade
Estas duas coisas são problemas fundamentalmente diferentes.
5/ Implicações de investimento 💡
•HBM continua a ser o rei do lado do treino (SK Hynix, Micron)
•Mas os chips de inferência de borda + LPDDR de alta largura de banda/ memória unificada serão o novo campo de batalha da próxima década
•NVIDIA DGX Spark, Apple Silicon, AMD Strix Halo, Qualcomm X Elite — todos a posicionar-se
O futuro não é nuvem vs desktop, é a nuvem a fazer o treino, o desktop a fazer a tua IA.