PrismML informou que comprimiu o modelo de código aberto da Alibaba, Qwen3.6-27B, para cerca de 4 GB e o executou com sucesso no iPhone 17 Pro. O Qwen3.6-27B é um modelo denso com 27 bilhões de parâmetros, onde todos os parâmetros participam da inferência, ao contrário de modelos MOE que ativam apenas parte dos parâmetros. A PrismML afirma que o tamanho do modelo foi reduzido de cerca de 54 GB para menos de 4 GB, sem perda significativa de desempenho, sendo adequado para conversas complexas, raciocínio, agentes e tarefas de codificação. A Apple já entrou em contato com a PrismML para discutir como aplicar essa tecnologia em seus dispositivos, embora a Siri avançada ainda dependa de modelos na nuvem.

AAPL0,82%
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 4
  • 2
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
PanicSellPaul
· 3h atrás
Alibaba open-source + Apple contato, esse movimento é a exportação reversa dos modelos nacionais para o Vale do Silício, confortável.
Ver originalResponder0
CandleAfterTheRain
· 4h atrás
54GB comprimido para 4GB e ainda roda no celular, essa taxa de compressão é absurda, que magia negra a PrismML usou?
Ver originalResponder0
LeverageWithdrawalInProgress
· 4h atrás
27 bilhões de parâmetros totalmente ativados, não aquele jeito oportunista do MOE. Se realmente não perdeu desempenho, a base do Qwen3.6 é realmente sólida.
Ver originalResponder0
  • Fixado