币界网 сообщает, PrismML заявила, что сжала открытую модель Alibaba Qwen3.6-27B примерно до 4 ГБ и успешно запустила ее на iPhone 17 Pro. Qwen3.6-27B — плотная модель с 27 млрд параметров, при инференсе все параметры задействуются. PrismML утверждает, что размер модели сократился примерно с 54 ГБ до менее чем 4 ГБ, при этом заметного падения производительности не наблюдается; модель подходит для сложных диалогов, рассуждений, agent-задач и задач по коду. Кроме того, PrismML официально открыла исходный код Bonsai 27B: на мобильном — около 3,9 ГБ, на компьютере — около 5,9 ГБ. На мобильном сохраняется примерно 90% возможностей исходной модели, на компьютере — около 95%.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 2
  • 1
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
MemeBarista
· 8ч назад
iPhone 17 Pro ещё не вышел, правда? Эта временная шкала в новости выглядит странно, но то, что на мобильном устройстве запускается 27B — действительно круто.
Посмотреть ОригиналОтветить0
CapitalCommittee
· 8ч назад
Этот уровень сжатия немного выходит за рамки: 54 ГБ сжать до 4 ГБ — и это всё ещё можно запускать на телефоне. Технологический стек PrismML определённо стоит глубже изучить.
Посмотреть ОригиналОтветить0
  • Закреплено