広場
最新
注目
ニュース
プロフィール
ポスト
智谱振り返りGLM-5「文字化け問題」：1日平均数億回のCoding Agent呼び出し、2つの競合バグがKVキャッシュに隠れている
CoinNetwork
2026-04-30 11:34:21
フォロー
币界网消息、智谱发文复盘GLM-5系列模型在编码代理场景下出现乱码、复读和生僻字的问题。自3月起、用户反馈异常仅在高并发、长上下文（平均超70k token）任务中触发。智谱称其推理系统每天承受数亿次编码代理调用。经过排查、团队定位到两个独立的竞态bug。第一个bug出在pd分离架构、解码侧超时中止请求后回收kv cache、但预填充侧的rdma写入未结束、新请求覆盖旧数据。修复方法是在回收前加显式同步、异常率从万分之十几降至万分之三以下。第二个bug出在hicache、加载和计算两条流水线缺少同步点、计算侧可能在数据未加载完毕时读取。修复后异常完全消失、补丁已提交sglang社区。团队还发现、投机采样的接受率指标可作为异常检测信号、乱码时草稿token几乎全被拒绝、复读时接受率偏高。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については
免責事項
をご覧ください。
報酬
いいね
コメント
リポスト
共有
コメント
コメントを追加
コメントを追加
コメント
コメントなし
人気の話題
もっと見る
#
ShareYourUSStocksWinNvidia
23.91M 人気度
#
WinGoldBarsWithGrowthPoints
1.27M 人気度
#
IsraelStrikesIranBTCPlunges
52.02K 人気度
#
NvidiaSurges6PercentToRecordHigh
2.87M 人気度
#
AnthropicFilesConfidentialIPO
477.5K 人気度
ピン留め
サイトマップ
智谱振り返りGLM-5「文字化け問題」：1日平均数億回のCoding Agent呼び出し、2つの競合バグがKVキャッシュに隠れている