Brian Armstrong:CoinbaseのAI支出はほぼ半減したが、トークン使用量は引き続き増加している。

robot
概要作成中
吴氏获悉、Coinbase CEOのBrian Armstrong氏は、トークン使用量が指数関数的に増加する中でAI支出を安定させる実践経験を共有しました。Armstrong氏は、同社が使用上限の設定などの制限手段を取らず、デフォルトモデルの最適化、スマートルーティング、キャッシュ戦略を通じてコスト削減と効率向上を実現したと述べています。デフォルトモデルでは、高価な汎用モデルに代えてGLM 5.2やKimi 2.7などのオープンウェイトモデルを導入。ルーティングメカニズムによりタスクのニーズに応じてモデルをマッチング。キャッシュの事前処理とタスクセッション管理を活用してトークンの無駄を削減(キャッシュヒット率が5%から60%に向上)。この一連の最適化により、CoinbaseのAI支出はほぼ半減し、トークン使用量は引き続き増加しています。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 5
  • 1
  • 共有
コメント
コメントを追加
コメントを追加
GateUser-d2b4d9c6
· 2時間前
制限なし+スマートルーティング、この考え方は真似する価値がある。
原文表示返信0
HotAirBalloonCrossingMountains
· 2時間前
トークンが上昇し支出が減少、Armstrongのこの一波の操作は教科書通り。
原文表示返信0
GateUser-673fb6fa
· 2時間前
GLM 5.2のコストパフォーマンスは確かに優れており、私たちも切り替えています。
原文表示返信0
BerryColdWallet
· 2時間前
キャッシュヒット率5%→60%はあまりにも異常だ、これこそ本当のコスト削減だ。
原文表示返信0
GateUser-94818fd0
· 2時間前
オープンウェイトモデルは今本当に魅力的で、クローズドソースの大手はプレッシャーが大きくなっている。
原文表示返信0