Notícias do Coin World, a PrismML afirmou ter comprimido o modelo open source da Alibaba, Qwen3.6-27B, para aproximadamente 4 GB e executado-o com sucesso no iPhone 17 Pro. O Qwen3.6-27B é um modelo denso com 27 mil milhões de parâmetros, onde todos os parâmetros participam no cálculo durante a inferência, ao contrário de modelos MOE que apenas ativam parte dos parâmetros. A PrismML afirma que o tamanho do modelo foi reduzido de cerca de 54 GB para menos de 4 GB, sem perda significativa de desempenho, sendo adequado para tarefas de conversação complexa, raciocínio, agentes e código. A Apple já contactou a PrismML para discutir como aplicar esta tecnologia aos seus dispositivos, embora o Siri avançado ainda dependa de modelos na nuvem.

AAPL0,82%
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 4
  • 2
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
PanicSellPaul
· 3h atrás
Alibaba open source + Apple contact, esta onda é a exportação reversa de modelos chineses para o Vale do Silício, que confortável.
Ver originalResponder0
CandleAfterTheRain
· 4h atrás
54GB comprimidos para 4GB e ainda a funcionar num telemóvel, esta taxa de compressão é um absurdo, que magia negra é que a PrismML usa?
Ver originalResponder0
LeverageWithdrawalInProgress
· 4h atrás
270 bilhões de parâmetros totalmente ativados, não é o tipo de atalho do MOE. Se realmente não houver perda de desempenho, a base do Qwen3.6 é realmente sólida.
Ver originalResponder0
  • Fixado