开源 + Apache 2.0 + Hugging Face,三件套拉满,社区可以玩起来了

ME News
PrismML推出1.58比特模型Ternary Bonsai,参数缩减9倍智能度反超同类
PrismML 发布 Ternary Bonsai 系列,采用 1.58 比特权重 {-1,0,+1},显存仅为 16 位模型的九分之一。8B/4B/1.7B 三种规模已在 Hugging Face 开源,并原生跑在 Apple 设备。8B 权重约 1.75 GB,基准分 75.5,领先同类。iPhone 17 Pro Max 上 8B 速率 27 tok/s,能效比提升 3–4 倍。权重以 Apache 2.0 分发,通过 MLX 框架在 Apple 设备原生运行。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论