Vài trăm thẻ có thể chịu được lưu lượng truy cập, nếu công nghệ tối ưu hóa này là mã nguồn mở, các doanh nghiệp vừa và nhỏ có thể tiết kiệm được bao nhiêu ngân sách tính toán?

Xem bản gốc
CoinNetwork
币界网消息,OpenAI最近找到了一套优化方案,能够将模型推理成本削减一半以上。根据一位知情人士透露,OpenAI工程师在本月早些时候向部分同事表示,依托几项全新研发的优化技术,他们成功将所需的英伟达图形处理器(GPU)数量压至仅数百个,特别是在没有免费或付费账户的访客使用ChatGPT的场景中应用该技术后。
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim