Cambrige concluiu a adaptação do DeepSeek-V4, o código já está de código aberto, impulsionando a valorização das ações de chips nacionais

De acordo com o monitoramento Beating, Cambricon anunciou que, no dia do lançamento do V4, completou a adaptação de dois modelos, DeepSeek-V4-Flash de 285B e DeepSeek-V4-Pro de 1.6T, baseados na estrutura vLLM, com o código de adaptação já aberto no GitHub.

A velocidade de adaptação depende de duas premissas: primeiro, que a pilha de software NeuWARE de desenvolvimento próprio da Cambricon suporte nativamente frameworks principais como PyTorch e vLLM, permitindo uma migração rápida do modelo; segundo, que os chips da Cambricon suportem nativamente formatos de dados de baixa precisão, sem necessidade de conversão adicional de formato para validação de precisão. Para a nova estrutura V4, a Cambricon acelerou módulos como Compressor e mHC usando sua biblioteca de operadores integrados Torch-MLU-Ops, e escreveu kernels de operadores populares como atenção esparsa/comprimida e GroupGemm usando BangC.

No nível do framework de inferência, a Cambricon suporta paralelismo híbrido de cinco dimensões TP/PP/SP/DP/EP, paralelismo de comunicação e cálculo, quantização de baixa precisão e implantação separada de PD no vLLM. O relatório técnico do V4 menciona apenas validações em GPUs NVIDIA e NPUs Huawei Ascend, sem envolver a plataforma da Cambricon; desta vez, a adaptação foi realizada inteiramente pela própria Cambricon. Impulsionada pelo anúncio do lançamento do V4, a seção de chips nacionais da Ações teve uma forte alta, e a Cambricon disparou durante o pregão.