Cambricon ha completado la adaptación de DeepSeek-V4, el código se ha abierto como código abierto, lo que ha impulsado el alza de las acciones de chips nacionales.

robot
Generación de resúmenes en curso
Noticias de ME News, 24 de abril (UTC+8), según el monitoreo de Beating, Cambricon anunció que completó la adaptación de los modelos DeepSeek-V4-Flash de 285B y DeepSeek-V4-Pro de 1.6T el mismo día del lanzamiento de V4, basado en el marco de inferencia vLLM, y el código de adaptación se ha abierto en GitHub. La velocidad de adaptación depende de dos premisas: primero, la pila de software NeuWare propia de Cambricon admite de forma nativa marcos principales como PyTorch y vLLM, lo que permite una migración rápida del modelo; segundo, los chips de Cambricon admiten de forma nativa los formatos de datos de baja precisión principales, sin necesidad de conversión de formato adicional para completar la verificación de precisión. Para la nueva estructura de V4, Cambricon, a través de su biblioteca de operadores fusionados Torch-MLU-Ops, ha acelerado específicamente módulos como Compressor y mHC, y ha escrito núcleos de operadores de puntos calientes como Attention dispersa/comprimida y GroupGemm usando BangC. En el nivel del marco de inferencia, Cambricon admite en vLLM la combinación paralela de cinco dimensiones TP/PP/SP/DP/EP, el paralelismo de comunicación y computación, la cuantización de baja precisión y la implementación separada de PD. El informe técnico de V4 solo mencionó la verificación en GPU de NVIDIA y NPU de Huawei Ascend, sin involucrar la plataforma de Cambricon; esta adaptación fue completada de forma independiente por Cambricon. Estimulado por la noticia del lanzamiento de V4, el sector de chips domésticos de la bolsa A subió, y Cambricon se disparó durante la sesión. (Fuente: BlockBeats)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado