PrismML comprime Qwen3.6 a 4 GB, un modelo de 27 mil millones de parámetros cabe en un iPhone.

Según el monitoreo de 动察 Beating, PrismML, el laboratorio de IA cofundado por el matemático del Caltech Babak Hassibi, afirmó haber comprimido el modelo de código abierto de Alibaba Qwen3.6-27B para ejecutarlo en un iPhone 17 Pro.

Qwen3.6-27B es un modelo denso de 27 mil millones de parámetros. Durante la inferencia, todos los parámetros participan; no es un modelo MoE que solo activa una parte de los parámetros.

PrismML indicó que el tamaño del modelo se redujo de unos 54 GB a menos de 4 GB, sin una caída significativa en el rendimiento. Puede utilizarse para diálogos complejos, razonamiento, tareas de agente y código.

Apple ya ha contactado a PrismML para discutir cómo usar esta tecnología. Apple siempre ha querido poner más IA localmente en el dispositivo, pero Siri avanzado aún depende de modelos en la nube.