Перший нативний адаптований до Ascend: Huawei офіційно відкриває вихідний код openPangu-2.0-Flash з 92 мільярдами параметрів

robot
Генерація анотацій у процесі
ME News повідомляє, 30 червня (UTC+8), за даними моніторингу Beating, компанія Huawei оголосила про офіційне відкриття моделі openPangu-2.0-Flash, яка незабаром з'явиться у спільноті Ascend Tribe на GitCode.
Модель має загалом 92 мільярди (92B) параметрів, використовує архітектуру змішаних експертів (MoE), фактично активуючи лише 6 мільярдів параметрів, і підтримує наддовгий контекст у 512K. Як відкритий бренд AI-моделей Huawei, openPangu прагне надати галузі практичні рекомендації щодо розробки обчислювальних потужностей Ascend за допомогою рідних технологій навчання та інференції Ascend.
Згідно з планом відкриття, перший випуск версії Flash включатиме ваги моделі, базовий код для інференції та підпрограми навчання; ваги та код інференції для потужнішої версії openPangu-2.0-Pro будуть випущені в липні, а більше компонентів буде відкрито в другій половині року.
(Джерело: BlockBeats)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено