270億稠密模型塞進口袋,這壓縮率有點離譜,蘋果終於坐不住了?

AAPL1.76%
查看原文
币 界 网
币界網消息,PrismML表示,已將阿里開源模型Qwen3.6-27B壓縮至約4GB,並成功在iPhone 17 Pro上運行。Qwen3.6-27B是一個擁有270億參數的稠密模型,推理時所有參數均參與計算,而非僅激活部分參數的MOE模型。PrismML稱,模型大小從約54GB壓縮至不到4GB,性能沒有明顯下降,適用於複雜對話、推理、agent和程式碼任務。蘋果公司已與PrismML接觸,討論如何將這項技術應用於其設備,儘管高級Siri仍依賴雲端模型。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂