Qwen 3.6 27B 是本地開發的理想選擇

robot
摘要生成中
ME AI 消息,Qwen 3.6 27B 是一款密集參數本地大語言模型,原生支援 256k 上下文。在 Macbook Max M5 上執行 llama.cpp Q8_0 量化版(含多 token 預測)可達 30 tokens/s;使用者回饋在 RTX 5090 上 Q6_K 量化可達 50 tokens/s。它可透過單一提示完成創意詩歌、用 pnpm 生成六邊形掃雷遊戲等任務,作者稱其為首個真正具備通用智慧的本地模型。另有一個 MoE 變體 35B A3B,但作者推薦 27B 版本。 🔗 閱讀原文:
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆