Bonsai 27B:primeiro modelo multimodal de nível 27B a funcionar no telemóvel

robot
Geração de resumo em curso
ME AI 消ionamento, Bonsai 27B baseado no Qwen3.6 27B, disponibiliza duas variantes: ternária (1.71 bits efetivos/peso, 5.9 GB) e 1-bit (1.125 bits efetivos/peso, 3.9 GB). Esta última foi a primeira a colocar um modelo de classe 27B dentro de um iPhone 17 Pro. O modelo suporta raciocínio multi-etapas, chamadas de ferramentas estruturadas, tarefas de visão e ciclos de agentes de utilização de computador, com uma janela de contexto de 262K tokens. Também suporta aceleração por descodificação especulativa. Em 15 testes de referência, a variante ternária mantém 95% do desempenho da linha de base de precisão total e a variante 1-bit mantém 90%; a capacidade em matemática e codificação sofre perdas quase nulas. Publicado como código aberto sob a licença Apache 2.0. 🔗 Leia o texto original: via AI HOT ·
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado