PrismML把Qwen3.6壓到4GB,270億模型塞進iPhone

robot
摘要生成中
據動察 Beating 監測,加州理工學院數學家 Babak Hassibi 聯合創立的 AI 實驗室 PrismML 表示,已把阿里開源模型 Qwen3.6-27B 壓縮後跑在 iPhone 17 Pro 上。

Qwen3.6-27B 是 270 億參數稠密模型。推理時所有參數都會參與,不是只激活部分參數的 MoE 模型。

PrismML 稱,模型大小從約 54GB 壓到不到 4GB,效能沒有明顯下降。它可用於複雜對話、推理、Agent 和程式碼任務。

蘋果已經和 PrismML 接觸,討論如何使用這項技術。蘋果一直想把更多 AI 放到裝置本地,但高級 Siri 仍依賴雲端模型。
AAPL0.92%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆