阿里この波の暗黙のキャッシュは直接コストの80%を削減し、長いコンテキストのエージェントの金銭的負担の悪夢にやっと解決策が見つかった

原文表示
CoinNetwork
币界网消息,阿里qwen团队宣布在阿里云百炼平台为旗下旗舰模型qwen3.7-max默认开启自动隐式缓存。
開発者はコードを修正したり追加のパラメータを指定したりすることなく、キャッシュコスト削減を直接享受できます。
新しい課金メカニズムの下、システムはリクエスト内の重複したコンテキストのプレフィックスを自動的に識別・抽出します。
キャッシュヒットが発生すると、ヒット部分の入力トークンの料金は元の単価の20%のみで、入力コストの80%を直接節約します。
暗黙のキャッシュは、長文やエージェントAIのシナリオにおける巨大なコストに直接対応します。
100万トークンの長いコンテキストウィンドウを持つqwen3.7-maxは、自律コーディングなどの高度なタスクを実行する際に、大規模なコードベースや知識ドキュメントを高頻度かつ繰り返し読み取る必要があります。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし