Zhipu AI publica solución para la reparación de problemas en la llamada de herramientas de GLM-5.1

robot
Generación de resúmenes en curso

ME News Noticias, 16 de abril (UTC+8), ZhiPu AI (Zai_org) publicó recientemente una notificación, dirigida a los usuarios que utilizan el marco vLLM o SGLang para ejecutar el modelo GLM-5.1 y habilitar llamadas a herramientas (tool calling), señalando que la conversión automática del marco de definiciones de herramientas en texto plano puede causar problemas de compatibilidad. La compañía ha proporcionado una solución, que consiste en actualizar la plantilla de diálogo basada en Jinja2 (chat template). Esta plantilla se utiliza para generar dinámicamente un historial de diálogo en el formato requerido, para soportar llamadas a herramientas del modelo, razonamiento interno (reasoning) y gestión de diálogos en múltiples rondas. Los usuarios deben acceder al enlace especificado para obtener la plantilla actualizada. (Fuente: InFoQ)

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado