Notícias do Biuquan. O PrismML afirma ter compactado o modelo de código aberto da Alibaba Qwen3.6-27B para cerca de 4 GB e conseguido executá-lo com sucesso no iPhone 17 Pro. O Qwen3.6-27B é um modelo denso com 27 bilhões de parâmetros, em que todos os parâmetros participam da inferência. O PrismML diz que o tamanho do modelo foi reduzido de cerca de 54 GB para menos de 4 GB, sem queda de desempenho claramente perceptível, sendo adequado para conversas complexas, inferência, tarefas de agent e de código. Além disso, o PrismML lançou oficialmente em código aberto o Bonsai 27B: cerca de 3,9 GB no celular e cerca de 5,9 GB no computador; no celular, mantém cerca de 90% das capacidades do modelo original, enquanto no computador mantém cerca de 95%.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 2
  • 1
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
MemeBarista
· 9h atrás
O iPhone 17 Pro ainda nem foi lançado, né? Essa linha do tempo da notícia parece estranha, mas conseguir rodar 27B no celular realmente é bem legal.
Ver originalResponder0
CapitalCommittee
· 9h atrás
Essa taxa de compressão é um pouco exagerada: 54G comprimidos para 4G e ainda roda no celular. Vale a pena investigar mais a fundo a stack tecnológica do PrismML.
Ver originalResponder0
  • Fixado