Золотой финансовый канал сообщает, 9 июля. Как первая в отрасли модель с триллионом параметров, выполнившая инференс на кластере из 50 000 отечественных вычислительных карт, LongCat-2.0 полностью открыта. Для отечественных чипов с ограниченной памятью и пропускной способностью мы провели глубокую совместную оптимизацию архитектуры модели, адаптации чипов и стратегии развёртывания, что позволило модели с триллионом параметров стабильно и быстро работать на уже имеющихся картах. Открытие LongCat-2.0 — это не только публикация технического пути, но и приглашение к участию в экосистеме. Вместе с открытым исходным кодом предоставляются версии с разной точностью: BF16, FP8 и INT8, которые полностью покрывают потребности развёртывания на различных вычислительных платформах. В то же время мы активно взаимодействуем с сообществом открытого кода, публикуя результаты инференса, максимально оптимизированные для отечественных вычислительных мощностей. Это означает, что даже без новейших вычислительных мощностей можно стабильно запустить LongCat-2.0 на существующем оборудовании. Мы надеемся, что с помощью этого готового к использованию стека для инференса больше отечественных карт, включая старые, смогут плавно развернуть сервисы инференса для моделей с триллионом параметров и принести большую пользу в реальных производственных сценариях.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

Награда
лайк
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
PredictWorldCupShare20000U
164,05K Популярность
#
GUSDYieldRisesto3.8%
728,88K Популярность
#
IsraelStrikesIranBTCPlunges
70,5K Популярность
#
USIranWarCloudsGather
3,97M Популярность
#
WorldCupChampionPrediction
137,72K Популярность

Закреплено

Карта сайта

Meituan LongCat-2.0 одновременно открывает код для вывода на отечественных картах.

Популярные темы

PredictWorldCupShare20000U

GUSDYieldRisesto3.8%

IsraelStrikesIranBTCPlunges

USIranWarCloudsGather

WorldCupChampionPrediction

Закреплено