Brian Armstrong の今回の一手はまさに教科書通りだ。予算削減に頼らず、技術でAI支出を半減させたのは見事。キャッシュヒット率を5%から60%に引き上げたのは、真のコスト削減と効率化であり、一律の安易な削減策とは一線を画す。

原文表示
CoinNetwork
币界網消息、Coinbase CEOのBrian Armstrong氏は、トークン使用量が指数関数的に増加する中でAI支出を安定させる実践的な経験を共有する記事を発表しました。同氏によれば、同社は使用上限を設定するなどの制限手段を取らず、デフォルトモデルの最適化、スマートルーティング、キャッシュ戦略を通じてコスト削減と効率化を実現しました。デフォルトモデルでは、GLM 5.2やKimi 2.7などのオープンウェイトモデルを導入して高価な汎用モデルを置き換え、ルーティングメカニズムによってタスク要件に応じてモデルをマッチングし、キャッシュプリプロセシングとタスクセッション管理を活用してトークンの無駄を削減しました(キャッシュヒット率は5%から60%に向上)。これらの一連の最適化により、CoinbaseのAI支出はほぼ半減し、同時にトークン使用量は増加を続けています。
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め