Zhipu AI запускає GLM-5.1 високошвидкісний API зі швидкістю 400 токенів за секунду

Zhipu AI запустила високошвидкісний API GLM-5.1 для обраних корпоративних клієнтів, з швидкістю виводу до 400 токенів за секунду. Zhipu AI повідомила, що сервіс використовує спільно розроблений інференційний двигун з TileRT і продовжить додавати інференцію FP8 та підтримку ультилонгого контексту.
ZHIPU26,55%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено