PrismML lanza Bonsai 27B: el modelo de IA de 3,9 GB se ejecuta en iPhone
PrismML lanzó Bonsai 27B a principios de esta semana: un modelo de IA con 27 mil millones de parámetros, comprimido a 3,9 GB, que funciona en un iPhone 17 Pro Max a 11 tokens por segundo. La variante ternaria conserva el 94,6% del rendimiento medio de los benchmarks de precisión completa mientras cabe en las limitaciones de memoria de un smartphone, marcando la primera vez que un modelo de este nivel de capacidad ha superado el presupuesto de memoria de un dispositivo de consumo. El método de co
NVDA-0,63%
GateAiHorizon·07-15 20:03
