PrismML стискає Qwen3.6 до 4 ГБ, вміщуючи 27B модель в iPhone.

robot
Генерація анотацій у процесі

За даними моніторингу Beating, лабораторія штучного інтелекту PrismML, співзаснована математиком із Каліфорнійського технологічного інституту Бабаком Хассібі, заявила, що стиснула відкриту модель Qwen3.6-27B від Alibaba та запустила її на iPhone 17 Pro.

Qwen3.6-27B — це щільна модель із 27 мільярдами параметрів. Під час виведення всі параметри беруть участь у роботі, а не лише частина, як у MoE-моделях.

За словами PrismML, розмір моделі зменшено з приблизно 54 ГБ до менш ніж 4 ГБ без значного погіршення продуктивності. Її можна використовувати для складних діалогів, міркувань, агентів і завдань із кодом.

Apple вже контактувала з PrismML, обговорюючи використання цієї технології. Apple давно прагне розмістити більше ШІ локально на пристроях, але розширена Siri все ще покладається на хмарні моделі.

AAPL0,92%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено