Noticias de CoinWorld, PrismML informó que ha comprimido el modelo de código abierto de Alibaba, Qwen3.6-27B, a aproximadamente 4 GB, y lo ha ejecutado con éxito en un iPhone 17 Pro. Qwen3.6-27B es un modelo denso con 27 mil millones de parámetros, donde durante la inferencia todos los parámetros participan en el cálculo, a diferencia de los modelos MOE que solo activan una parte de los parámetros. PrismML afirma que el tamaño del modelo se redujo de aproximadamente 54 GB a menos de 4 GB, sin una degradación significativa en el rendimiento, siendo adecuado para tareas de diálogo complejo, razonamiento, agentes y código. Apple ya se ha puesto en contacto con PrismML para discutir cómo aplicar esta tecnología en sus dispositivos, aunque la versión avanzada de Siri aún depende de modelos en la nube.

AAPL0,82%
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 4
  • 2
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
PanicSellPaul
· hace3h
Alibaba open-source + contacto con Apple, esta ola es de modelos nacionales exportando inversamente a Silicon Valley, qué bien.
Ver originalResponder0
CandleAfterTheRain
· hace4h
54 GB comprimidos a 4 GB que aún pueden ejecutarse en un móvil, esa tasa de compresión es algo increíble, ¿qué magia negra usa PrismML?
Ver originalResponder0
LeverageWithdrawalInProgress
· hace4h
27 mil millones de parámetros completamente activados, no es el truco de MOE, si realmente no ha perdido rendimiento, la base de Qwen3.6 es realmente sólida.
Ver originalResponder0
  • Fijado