27-миллиардная плотная модель помещена в карман — уровень сжатия просто безумный. Apple наконец-то не выдержала?

Сообщение BiJie (币界网): PrismML заявила, что сжала открытую модель Alibaba Qwen3.6-27B примерно до 4 ГБ и успешно запустила её на iPhone 17 Pro. Qwen3.6-27B — это плотная модель с 27 миллиардами параметров, где при выводе участвуют все параметры, а не только часть, как в MOE-моделях. PrismML отмечает, что размер модели уменьшен с примерно 54 ГБ до менее 4 ГБ без заметного снижения производительности; модель подходит для сложных диалогов, рассуждений, agent-задач и работы с кодом. Компания Apple уже связалась с PrismML для обсуждения применения этой технологии в своих устройствах, хотя продвинутая Siri по-прежнему полагается на облачную модель.