Mô hình mã nguồn mở + định tuyến thông minh + bộ đệm ba mẹo, chi phí AI của Coinbase giảm một nửa, Brian Armstrong chia sẻ điều này đáng để học hỏi.

COIN-0,57%
Xem bản gốc
CoinNetwork
币界网消息,Coinbase CEO Brian Armstrong发文分享了在代币使用量指数级增长背景下保持AI开支稳定的实践经验。他表示,公司并未采取设置使用上限等限制手段,而是通过优化默认模型、智能路由与缓存策略来实现降本增效:在默认模型方面,引入GLM 5.2和Kimi 2.7等开放权重模型以替代昂贵的通用模型通过路由机制根据任务需求匹配模型利用缓存预处理与任务会话管理减少Token浪费(缓存命中率从5%提升至60%)。得益于这一系列优化,Coinbase的AI支出已近乎减半,同时Token使用量仍保持增长。
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim