Coinbase chuyển đổi mô hình AI mặc định sang các mô hình mã nguồn mở như GLM5.2, Kimi2.7, chi phí AI giảm một nửa

robot
Đang tạo bản tóm tắt
Tin tức từ Mars Finance, ngày 28 tháng 6, CEO của Coinbase, Brian Armstrong, tiết lộ rằng công ty đã chuyển đổi mô hình AI mặc định sang các mô hình nguồn mở như GLM 5.2, Kimi 2.7, kết hợp với các biện pháp như định tuyến mô hình thông minh, tối ưu hóa bộ nhớ đệm, v.v., nhờ đó đã cắt giảm gần một nửa chi tiêu AI trong bối cảnh lượng sử dụng Token tiếp tục tăng theo cấp số nhân. Brian Armstrong cho biết, Coinbase không còn phụ thuộc vào việc giới hạn hạn mức sử dụng hoặc cảnh báo tiêu dùng để kiểm soát chi phí, mà thay vào đó sử dụng mặc định các mô hình nguồn mở có chi phí thấp hơn, chỉ gọi các mô hình tiên tiến có hiệu suất mạnh hơn khi cần thiết. Đồng thời, công ty tiếp tục giảm chi phí suy luận thông qua tự động định tuyến mô hình, tăng tỷ lệ truy cập bộ nhớ đệm và tinh gọn ngữ cảnh. Đáng chú ý, tuyên bố này được đưa ra trong bối cảnh gần đây CEO của Anthropic đã nhiều lần công khai bày tỏ lo ngại về các mô hình nguồn mở và quá trình chưng cất mô hình. Thực tiễn của Coinbase cho thấy, trong các ứng dụng AI cấp doanh nghiệp, các mô hình nguồn mở đang trở thành lựa chọn quan trọng để cân bằng giữa chi phí và hiệu quả.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim