Zhipu AI publie la solution de correction des problèmes d'appel d'outils de GLM-5.1

robot
Création du résumé en cours

ME News Actualités, le 16 avril (UTC+8), ZhiPu AI (Zai_org) a récemment publié une notification concernant les utilisateurs exécutant le modèle GLM-5.1 avec le cadre vLLM ou SGLang et activant l’appel d’outils (tool calling), indiquant que la conversion automatique par le cadre de la définition d’outils en texte brut pourrait entraîner des problèmes de compatibilité. La version officielle a fourni une solution, à savoir la mise à jour du modèle de dialogue basé sur Jinja2 (chat template). Ce modèle est utilisé pour générer dynamiquement un historique de dialogue conforme aux exigences de format, afin de soutenir l’appel d’outils par le modèle, la réflexion interne (reasoning) et la gestion de dialogues multi-tours. Les utilisateurs doivent accéder au lien spécifié pour obtenir le fichier de modèle mis à jour. (Source : InFoQ)

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé