Wu Shuo biết được, CEO của Coinbase Brian Armstrong đã đăng bài cho biết, công ty thông qua việc tối ưu hóa cơ sở hạ tầng đã cắt giảm gần một nửa chi tiêu AI của doanh nghiệp, đồng thời lượng sử dụng token AI vẫn đang tăng trưởng theo cấp số nhân. Các biện pháp giảm chi phí cốt lõi bao gồm: đưa các mô hình mã nguồn mở như GLM 5.2 và Kimi 2.7 làm lựa chọn mặc định cho cổng LLM nội bộ, thông qua định tuyến thông minh để ghép mô hình có hiệu suất chi phí tốt nhất cho từng nhiệm vụ, tăng tỷ lệ hit cache của các công cụ như LibreChat từ 5% lên đáng kể 60%. Armstrong nhấn mạnh, mục tiêu quản lý chi phí AI không phải là hạn chế sử dụng, mà là làm cho sự tăng trưởng theo cấp số nhân trở nên bền vững thông qua việc giảm lãng phí.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận