Nvidia divulga detalhes de custos do Blackwell: GPU custa o dobro, cada token fica 35 vezes mais barato

Notícias do CoinWorld, a Nvidia divulgou detalhes de custos da sua série Blackwell, indicando que o custo da GPU é o dobro do da geração anterior, mas o custo por token é 35 vezes mais barato. Segundo o blog da Nvidia, ao avaliar a infraestrutura de inferência, deve-se focar no «custo por token» em vez do «custo por GPU por hora». Como objeto de teste, utilizou-se o deepseek-r1 (modelo de inferência MOE), comparando o Blackwell (GB300 NVL72) com a geração anterior Hopper (HGX H200). Com base no preço de referência de aluguel no mercado de nuvem, o Blackwell custa 2,65 dólares por GPU por hora, quase o dobro dos 1,41 dólares do Hopper, mas a produção de tokens por GPU por segundo passou de 90 para 6000, um aumento de 65 vezes, e o custo por milhão de tokens, após divisão, caiu de 4,20 dólares para 0,12 dólares. É importante notar que o custo de 0,12 dólares é baseado na ativação de várias otimizações de software, como inferência de baixa precisão FP4 e previsão de múltiplos tokens.