Analista: Kimi K3 melhora a eficiência de computação, mas a alta demanda por memória ainda sustenta a procura por chips de IA

深潮 TechFlow消息，20 de julho, na visão do analista Sunny Bangia, a ideia de que o Kimi K3, assim como o DeepSeek R1, será lançado em 2025 também levantou preocupações de que a capacidade de computação de IA possa ficar abaixo do esperado. No entanto, essa comparação pode ignorar uma diferença importante. Embora modelos como o Kimi K3 tenham como objetivo aproveitar os recursos de computação de forma mais eficiente, ainda é necessário muita memória durante a execução, e essa característica pode continuar sustentando a demanda por empresas como SK Hynix, TSMC e NVIDIA.

O Kimi K3 tem 2,8 trilhões de parâmetros, com uma taxa de esparsidade atingindo um novo recorde. Uma esparsidade maior significa que, em cada tarefa, a quantidade de parâmetros ativados em relação ao tamanho total do modelo é menor, permitindo uma eficiência computacional maior em cada token. Parâmetros são apenas um número armazenado na memória. Mesmo usando formatos de dados de baixa precisão para comprimir o modelo, os parâmetros do Kimi K3 ainda ocupariam cerca de 1,4 terabytes de memória. Adotar o K3 em si gera a necessidade de atualizações para chips de silício de alta capacidade de memória, como o Blackwell GB300 da NVIDIA. (Jin10)