Notícias do BIAJIE.NET: A PrismML indica que já comprimiu o modelo open source da Alibaba Qwen3.6-27B para cerca de 4GB e que conseguiu executá-lo com sucesso num iPhone 17 Pro. O Qwen3.6-27B é um modelo denso com 27 mil milhões de parâmetros, em que, durante a inferência, todos os parâmetros participam. A PrismML afirma que o tamanho do modelo foi reduzido de cerca de 54GB para menos de 4GB, sem uma diminuição perceptível do desempenho, sendo adequado para conversas complexas, inferência, tarefas de agent e de código. Além disso, a PrismML lançou oficialmente em open source o Bonsai 27B, com cerca de 3,9GB no telemóvel e cerca de 5,9GB no computador; no telemóvel mantém cerca de 90% das capacidades do modelo original e no computador cerca de 95%.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 2
  • 1
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
MemeBarista
· 6h atrás
O iPhone 17 Pro ainda não foi lançado, certo? Esta linha temporal da notícia é estranha, mas conseguir correr 27B em mobile é mesmo incrível.
Ver originalResponder0
CapitalCommittee
· 6h atrás
A taxa de compressão está um pouco absurda; 54G para 4G ainda dá para correr num telemóvel. Vale a pena investigar a fundo o stack tecnológico da PrismML.
Ver originalResponder0
  • Fixado