智谱AI опублікував рішення для виправлення проблем виклику інструменту GLM-5.1

robot
Генерація анотацій у процесі

ME News Новини, 16 квітня (UTC+8), Zai_org (智谱AI) нещодавно опублікував повідомлення, у якому для користувачів, що використовують фреймворки vLLM або SGLang для запуску моделі GLM-5.1 та активували виклик інструментів (tool calling), зазначено, що автоматичне перетворення фреймворком визначень чистого тексту інструментів може спричинити проблеми з сумісністю. Офіційно надано рішення, а саме оновлення шаблону діалогу на основі Jinja2 (chat template). Цей шаблон використовується для динамічного генерування історії діалогу у відповідності до форматних вимог, щоб підтримати модель у викликах інструментів, внутрішньому мисленні (reasoning) та управлінні багатокроковими діалогами. Користувачам потрібно перейти за вказаним посиланням для отримання оновленого файлу шаблону. (Джерело: InFoQ)

GLM-3,72%
ME-5,86%
4-3,99%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено