Bonsai 27B:首款可在手機上運行的 27B 等級多模態模型

robot
摘要生成中
ME AI 訊息,Bonsai 27B 基於 Qwen3.6 27B,提供三元(1.71 有效位元/權重,5.9 GB)和 1-bit(1.125 有效位元/權重,3.9 GB)兩個變體,後者首次將 27B 級模型裝入 iPhone 17 Pro。模型支援多步推理、結構化工具呼叫、視覺任務和計算機使用智慧體循環,擁有 262K token 上下文視窗,支援推測解碼加速。在 15 項基準測試中,三元變體保留全精度基線 95% 的效能,1-bit 變體保留 90%,數學和編碼能力幾乎無損。採用 Apache 2.0 許可證開源。 🔗 閱讀原文: via AI HOT ·
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆