Zhipu AI publica solução para correção de problemas na chamada de ferramentas do GLM-5.1

robot
Geração de resumo em curso

ME News Notícias, 16 de abril (UTC+8), Zai_org anunciou recentemente que, para os usuários que utilizam o framework vLLM ou SGLang para executar o modelo GLM-5.1 e ativar chamadas de ferramentas (tool calling), a conversão automática de definições de ferramentas em texto puro pelo framework pode causar problemas de compatibilidade. A empresa forneceu uma solução oficial, que consiste na atualização do template de diálogo baseado em Jinja2. Este template é usado para gerar dinamicamente um histórico de diálogo no formato adequado, a fim de suportar chamadas de ferramentas pelo modelo, raciocínio interno (reasoning) e gestão de múltiplas rodadas de diálogo. Os usuários devem acessar o link fornecido para obter o arquivo de template atualizado. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado