Huawei выпустила комплексное решение для инфраструктуры данных AI DC

robot
Генерация тезисов в процессе
Новости Mars Finance 22 мая: Huawei официально выпустила полную стековую инфраструктуру данных AI DC, распределённое полностью флэш-накопитель OceanStor Pacific с ёмкостью 11PB/2U, что является лидером отрасли по высокой плотности и ёмкости, обеспечивая оптимальную TCO для хранения огромных данных. Для сценариев сверхмасштабных кластеров вывода, Huawei представила первый в отрасли контекстный памятьный хранилище CMS (Context Memory Storage), поддерживающее гетерогенные вычислительные ресурсы, с возможностью прямого доступа к KV-семантике или использования специального DPU для выгрузки семантики, с масштабированием до PB-уровня общего KV-кеша, сокращая задержку при первичном токене вывода на 90%. Для сценариев корпоративного AI-вывода, Huawei впервые создала платформу AI данных «3+1», объединяющую базу знаний с более чем 95% точностью поиска, ускорение KV-кеша и постоянно развивающуюся память, а также реализующую управление и планирование с помощью технологии UCM, повышая точность вывода на 30%. (Обзор с широким углом)
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 12
  • 1
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
ColdBrewYield
· 2ч назад
Huawei эта полная стековая схема, объединяющая контекст хранения и вычислительных мощностей, делает шаг вперёд в замещении отечественных решений
Посмотреть ОригиналОтветить0
GateUser-8ca669fd
· 2ч назад
Платформа 3+1 с той 95% точностью поиска, внедрение в бизнесе должно помочь избежать многих ошибок
Посмотреть ОригиналОтветить0
YieldYeti
· 3ч назад
KV Cache池化共享,多卡推理效率能提一大截吧
Ответить0
PineNeedlesAndColdWind
· 3ч назад
DPU выгрузка KV-семантики, аппаратное оптимизация, детали-любители в восторге
Посмотреть ОригиналОтветить0
MevTeaTime
· 3ч назад
Повышение точности бизнес-рассуждений на 30%, окупаемость внедрения оправдана
Посмотреть ОригиналОтветить0
OldKeyboardTraitor
· 3ч назад
Постоянное развитие базы памяти кажется, что это занимается долгосрочной памятью.
Посмотреть ОригиналОтветить0
0xSideQuest
· 3ч назад
Ждём реальных примеров внедрения, технические параметры выглядят хорошо, а инженерное выполнение — настоящее испытание.
Посмотреть ОригиналОтветить0
NekoOnCall
· 3ч назад
OceanStor Pacific это звучит мощно, полностью флэш + распределённый, монстр производительности
Посмотреть ОригиналОтветить0
NeonVortexTunnel
· 3ч назад
Управление контекстом в сверхмасштабных кластерах всегда было проблемой, CMS считается целенаправленным решением
Посмотреть ОригиналОтветить0
Frost-ColoredCubeCity
· 3ч назад
От обучения до вывода — полный охват цепочки, амбиции инфраструктуры искусственного интеллекта Huawei не малы.
Посмотреть ОригиналОтветить0
Подробнее
  • Закреплено