Brian Armstrong: Chi tiêu AI của Coinbase đã giảm gần một nửa, trong khi lượng sử dụng Token vẫn tiếp tục tăng trưởng.

robot
Đang tạo bản tóm tắt
Wu Shuo biết rằng, CEO của Coinbase, Brian Armstrong, đã đăng bài chia sẻ kinh nghiệm thực tế về việc duy trì sự ổn định chi tiêu cho AI trong bối cảnh số lượng token sử dụng tăng lên theo cấp số nhân. Armstrong cho biết, công ty không áp dụng các biện pháp hạn chế như đặt giới hạn sử dụng, mà thay vào đó tối ưu hóa các mô hình mặc định, định tuyến thông minh và chiến lược bộ nhớ đệm để giảm chi phí và tăng hiệu quả: Về mô hình mặc định, giới thiệu các mô hình trọng số mở như GLM 5.2 và Kimi 2.7 để thay thế các mô hình đa năng đắt tiền; thông qua cơ chế định tuyến để khớp mô hình dựa trên yêu cầu nhiệm vụ; sử dụng bộ nhớ đệm tiền xử lý và quản lý phiên tác vụ để giảm lãng phí token (tỷ lệ truy cập bộ nhớ đệm tăng từ 5% lên 60%). Nhờ loạt tối ưu hóa này, chi tiêu AI của Coinbase đã giảm gần một nửa, trong khi lượng token sử dụng vẫn tiếp tục tăng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 5
  • 1
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
GateUser-d2b4d9c6
· 2giờ trước
Không giới hạn + định tuyến thông minh, ý tưởng này đáng để sao chép
Xem bản gốcTrả lời0
HotAirBalloonCrossingMountains
· 2giờ trước
Token tăng, chi tiêu giảm, hành động này của Armstrong là sách giáo khoa.
Xem bản gốcTrả lời0
GateUser-673fb6fa
· 2giờ trước
GLM 5.2 thực sự có giá trị tốt, chúng tôi cũng đang chuyển đổi.
Xem bản gốcTrả lời0
BerryColdWallet
· 2giờ trước
Tỉ lệ hit cache từ 5%→60% quá phi lý, đây mới là thực sự giảm chi phí.
Xem bản gốcTrả lời0
GateUser-94818fd0
· 2giờ trước
Mô hình trọng số mở bây giờ thật thơm, các ông lớn nguồn đóng áp lực tăng lên.
Xem bản gốcTrả lời0