PrismML lanza Bonsai 27B, el primer modelo de IA 27B comprimido a 3,9 GB para iPhone
Según PrismML, la empresa lanzó Bonsai 27B, un modelo de IA con 27 mil millones de parámetros, comprimido a 3,9 GB, a principios de esta semana. Es lo bastante pequeño como para ejecutarse en un iPhone 17 Pro Max a 11 tokens por segundo. La variante ternaria conserva el 94,6% del rendimiento de los puntos de referencia con precisión completa, superando a las construcciones convencionales de Qwen de bajo bit, que son casi el doble de grandes y fallan en tareas de matemáticas y programación. La va
GateNews·07-15 20:02
