Coinbase thực hiện tiết kiệm chi phí và tăng hiệu quả rất hay: mở mô hình nguồn mở, làm định tuyến thông minh, tỷ lệ truy cập bộ nhớ đệm từ 5% lên 60%, đây là một ví dụ kinh điển về hạ tầng AI.

COIN-1,04%
Xem bản gốc
CoinNetwork
币界网消息,Coinbase首席执行官Brian Armstrong在X平台发文表示,Coinbase通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将AI支出降低近50%。具体措施包括:将默认模型切换至GLM 5.2和Kimi 2.7等开源权重模型,91%员工此前从未触达使用上限在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理提升缓存命中率,LibreChat缓存命中率从5%提升至60%精简上下文管理,切换任务时开启新会话并缩小文件上下文范围增强支出可见性,工程师可自由选择模型但需承担相应影响预期。
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim