Cambricon a terminé l'adaptation de DeepSeek-V4, le code est open source, ce qui a stimulé la hausse des actions de puces nationales.

robot
Création du résumé en cours
ME News Message, le 24 avril (UTC+8), selon la surveillance de Beating, Cambricon a annoncé avoir terminé l'adaptation des deux modèles 285B DeepSeek-V4-Flash et 1.6T DeepSeek-V4-Pro le jour de la sortie de V4, basée sur le framework d'inférence vLLM, et le code d'adaptation a été open sourcé sur GitHub. La vitesse d'adaptation repose sur deux prérequis : premièrement, la pile logicielle NeuWare auto-développée par Cambricon supporte nativement les frameworks principaux tels que PyTorch et vLLM, permettant une migration rapide des modèles ; deuxièmement, les puces Cambricon supportent nativement les formats de données basse précision courants, sans nécessiter de conversion de format supplémentaire pour la validation de précision. Pour la nouvelle structure de V4, Cambricon a utilisé sa bibliothèque d'opérateurs fusionnés auto-développée Torch-MLU-Ops pour accélérer spécifiquement les modules tels que Compressor et mHC, et a écrit des noyaux d'opérateurs hotspot comme l'attention sparse/compressée et GroupGemm en utilisant BangC. Au niveau du framework d'inférence, Cambricon supporte dans vLLM le parallélisme hybride à cinq dimensions TP/PP/SP/DP/EP, le parallélisme de calcul de communication, la quantification basse précision et le déploiement séparé PD. Le rapport technique de V4 ne mentionne que la validation sur les GPU NVIDIA et les NPU Huawei Ascend, sans mentionner la plateforme Cambricon ; cette adaptation a été réalisée indépendamment par Cambricon. Stimulé par la nouvelle de la sortie de V4, le secteur des puces nationales cotées en bourse A a augmenté, et Cambricon a grimpé en flèche en cours de séance. (Source : BlockBeats)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé