智谱AIがGLM-5.1ツール呼び出し問題修正方案を発表

robot
概要作成中

ME News ニュース、4月16日(UTC+8)、智谱AI(Zai_org)は近日、通知を発表しました。vLLMまたはSGLangフレームワークを使用してGLM-5.1モデルを実行し、ツール呼び出し(tool calling)を有効にしたユーザーを対象に、フレームワークが純テキストのツール定義を自動変換することが互換性の問題を引き起こす可能性があると指摘しています。公式は解決策として、Jinja2に基づく対話テンプレート(チャットテンプレート)の更新を提供しています。このテンプレートは、モデルがツール呼び出し、内部思考(reasoning)、および多回合対話管理をサポートするために、フォーマット要件に適合した対話履歴を動的に生成するために使用されます。ユーザーは指定されたリンクにアクセスして、更新されたテンプレートファイルを入手する必要があります。(出典:InFoQ)

GLM-3.72%
ME-5.86%
4-3.99%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め