Каменный век завершил адаптацию DeepSeek-V4, код открыт, что стимулирует рост акций отечественных чипов

По данным мониторинга Beating, Cambrian объявила, что в день релиза V4 была завершена адаптация двух моделей: 285B DeepSeek-V4-Flash и 1.6T DeepSeek-V4-Pro, основанных на фреймворке vLLM, код адаптации был открыт на GitHub.

Скорость адаптации зависит от двух условий: первое — собственная программная платформа NeuWARE от Cambrian, которая нативно поддерживает основные фреймворки, такие как PyTorch и vLLM, что позволяет быстро переносить модели; второе — нативная поддержка основными чипами Cambrian популярных форматов данных с низким точностью, что позволяет проводить проверку точности без дополнительного преобразования форматов. Для новой архитектуры V4 Cambrian использовала собственную библиотеку объединяющих операторов Torch-MLU-Ops, которая ускоряет модули Compressor, mHC и другие, а также написала ядра горячих операторов, таких как разреженное/сжатое внимание и GroupGemm, на BangC.

На уровне фреймворка для инференса Cambrian поддерживает в vLLM гибридное параллелизм по пяти осям TP/PP/SP/DP/EP, коммуникационный и вычислительный параллелизм, квантование с низкой точностью и раздельное развертывание PD. В техническом отчёте по V4 упоминалась проверка только на NVIDIA GPU и Huawei Ascend NPU, без упоминания платформы Cambrian; адаптация выполнена самостоятельно компанией Cambrian. В связи с выпуском V4 акции китайских чипов на А-акциях выросли, Cambrian резко выросла в цене в ходе торгов.