Tin từ Bì Giới Võng, PrismML cho biết đã nén mô hình nguồn mở Qwen3.6-27B của Alibaba xuống còn khoảng 4GB và chạy thành công trên iPhone 17 Pro. Qwen3.6-27B là mô hình dày đặc có 27 tỷ tham số, trong quá trình suy luận tất cả các tham số đều tham gia tính toán, không phải mô hình MOE chỉ kích hoạt một phần tham số. PrismML cho biết kích thước mô hình đã được nén từ khoảng 54GB xuống dưới 4GB mà không bị suy giảm hiệu suất đáng kể, phù hợp cho các tác vụ hội thoại phức tạp, suy luận, agent và code. Apple đã liên hệ với PrismML để thảo luận về cách áp dụng công nghệ này vào thiết bị của họ, mặc dù Siri cao cấp vẫn phụ thuộc vào mô hình đám mây.

AAPL0,92%
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 4
  • 2
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
PanicSellPaul
· 4giờ trước
Alibaba mã nguồn mở + Apple tiếp xúc, đợt này là mô hình nội địa xuất khẩu ngược Silicon Valley rồi, thoải mái.
Xem bản gốcTrả lời0
CandleAfterTheRain
· 5giờ trước
54GB nén xuống còn 4GB mà vẫn chạy được trên điện thoại, tỷ lệ nén này hơi điên rồ, PrismML dùng phép thuật gì vậy?
Xem bản gốcTrả lời0
LeverageWithdrawalInProgress
· 5giờ trước
27 tỷ tham số được kích hoạt toàn bộ, không phải kiểu MOE mánh khóe, nếu thực sự không bị sụt hiệu năng thì nền tảng của Qwen3.6 quả thực rất cứng.
Xem bản gốcTrả lời0
  • Đã ghim