ME News ニュース、4月16日(UTC+8)、智谱AI(Zai_org)は近日、通知を発表しました。vLLMまたはSGLangフレームワークを使用してGLM-5.1モデルを実行し、ツール呼び出し(tool calling)を有効にしたユーザー向けに、フレームワークが純テキストのツール定義を自動変換することが互換性の問題を引き起こす可能性があると指摘しています。公式は解決策として、Jinja2に基づく対話テンプレート(チャットテンプレート)の更新を提供しています。このテンプレートは、モデルがツール呼び出し、内部思考(reasoning)、および多回合対話管理をサポートするために、フォーマット要件に適合した対話履歴を動的に生成するために使用されます。ユーザーは指定されたリンクにアクセスして、更新されたテンプレートファイルを入手する必要があります。(出典:InFoQ)
智谱AIがGLM-5.1ツール呼び出し問題修正方案を発表
ME News ニュース、4月16日(UTC+8)、智谱AI(Zai_org)は近日、通知を発表しました。vLLMまたはSGLangフレームワークを使用してGLM-5.1モデルを実行し、ツール呼び出し(tool calling)を有効にしたユーザー向けに、フレームワークが純テキストのツール定義を自動変換することが互換性の問題を引き起こす可能性があると指摘しています。公式は解決策として、Jinja2に基づく対話テンプレート(チャットテンプレート)の更新を提供しています。このテンプレートは、モデルがツール呼び出し、内部思考(reasoning)、および多回合対話管理をサポートするために、フォーマット要件に適合した対話履歴を動的に生成するために使用されます。ユーザーは指定されたリンクにアクセスして、更新されたテンプレートファイルを入手する必要があります。(出典:InFoQ)