Ключова складова AI на пристроях Apple? iPhone вперше вміщує велику модель з 27 мільярдами параметрів.

Apple прагне залишити більш потужні можливості штучного інтелекту на пристрої, і стартап, підтриманий Khosla Ventures, можливо, надав ключову частину пазла.

Стартап PrismML, який інвестував Khosla Ventures, заявив, що успішно стиснув велику мовну модель з 27 мільярдами параметрів, яка може працювати локально на iPhone 17 Pro, встановивши новий рекорд для мобільних моделей ШІ. Компанія заявила, що її технологія стиснення не призводить до втрати продуктивності, а відповідна модель з відкритим вихідним кодом буде випущена наступного вівторка.

За даними інсайдерів, Apple провела переговори з PrismML щодо використання їхньої технології. Раніше The Information повідомляло, що Apple активно шукає можливості придбання компаній, які можуть допомогти запускати більше функцій ШІ на пристроях. Джерела стверджують, що минулого року Apple зіткнулася зі значним падінням продуктивності під час спроб стиснути власні моделі ШІ для роботи на iPhone.

270 млрд параметрів повністю активовано, встановлено новий рекорд мобільного ШІ

PrismML повідомляє, що стиснута модель - це відкрита велика мовна модель Qwen 3.6, розроблена Alibaba, з 27 мільярдами параметрів. Для порівняння, сучасні основні мобільні моделі активують лише кілька мільярдів параметрів кожного разу.

На Всесвітній конференції розробників у червні Apple представила нову модель для пристроїв з 20 мільярдами параметрів, але з розрідженою архітектурою, щоразу активуючи від 1 до 4 мільярдів параметрів. Модель PrismML активує всі 27 мільярдів параметрів одночасно під час роботи, що компанія вважає своєю ключовою конкурентною перевагою.

PrismML заявляє, що модель здатна виконувати складні діалоги, міркування, автономні агенти та завдання з програмування.

Математична технологія стиснення з Каліфорнійського технологічного інституту, ексклюзивна ліцензія на патент

PrismML є дочірньою компанією Каліфорнійського технологічного інституту (Caltech). Її генеральний директор Babak Hassibi, професор електротехніки в цьому університеті, разом із співзасновниками завершив математичні дослідження, що лежать в основі технології. Caltech володіє відповідними патентами і надав ексклюзивну ліцензію PrismML.

Основна технологія компанії полягає в математичному методі, який стискає об'єм моделі Qwen 3.6 приблизно з 54 ГБ до менш ніж 4 ГБ, що становить коефіцієнт стиснення понад 90%, і компанія стверджує, що продуктивність не страждає.

PrismML завершила початковий раунд фінансування в розмірі 16,25 мільйонів доларів раніше цього року, в якому взяв участь Khosla Ventures. Засновник Khosla Ventures Vinod Khosla в інтерв'ю заявив, що його зацікавив PrismML, тому що компанія запропонувала "фундаментальний прорив". "Ми зробили велику ставку на модель Transformer, коли інвестували в OpenAI у 2018 році, але який новий спосіб створення ШІ? Наша команда завжди шукає нові шляхи", - сказав він.

Стратегія Apple щодо ШІ на пристроях та потенційна логіка придбання

Apple довгий час вважала ШІ на пристроях основою своїх зобов'язань щодо конфіденційності та безпеки, значною мірою уникаючи гонки озброєнь дата-центрів, на яку технологічні гіганти, такі як Microsoft, Amazon та Meta, витратили сотні мільярдів доларів.

Однак довгоочікуване велике оновлення Siri, оголошене Apple у червні цього року, все ще покладається на модель Gemini від Google, а найсучасніші функції вимагають виклику чіпів Nvidia, що працюють на Google Cloud. Цей розрив між реальністю та баченням Apple щодо ШІ на пристроях робить технологію PrismML потенційно стратегічно цінною для Apple.

Hassibi прогнозує, що протягом наступних трьох років переважна більшість обчислень ШІ, необхідних користувачам, виконуватимуться локально. "Уявіть, можливо, через три роки 95% інтелекту, який вам потрібен, буде доступний локально — на вашому телефоні, ноутбуці, побутовій техніці — і лише останні 5% високоякісних потреб справді потребуватимуть хмари", - сказав він. "Я думаю, це той напрямок, який бачать люди."

Гібридний підхід кидає виклик

Не всі в галузі погоджуються з чисто локальним підходом до ШІ. Стартап Argmax та інші використовують гібридну архітектуру, виконуючи такі завдання, як обробка мови та зображень, на пристрої, а потім надсилаючи інформацію в хмару для більш складних міркувань.

Прихильники гібридної архітектури зазначають, що хмарні великі моделі продовжують швидко оновлюватися щотижня, і моделі ШІ, які повністю працюють на пристрої, не зможуть скористатися перевагами продуктивності новітніх і найсучасніших хмарних моделей. Ця проблема є однією з ключових, яку PrismML потрібно постійно вирішувати на шляху комерціалізації.

PrismML заявляє, що планує продовжити стискати більші моделі — включаючи моделі з трильйонами параметрів — для роботи на пристроях, виходячи на арену, де вона конкуруватиме з OpenAI GPT та Anthropic Claude.

Заява про ризики та відмова від відповідальності

        Ринок має ризики, інвестиції потрібні обережні. Ця стаття не є індивідуальною інвестиційною порадою і не враховує особливих інвестиційних цілей, фінансового стану чи потреб окремих користувачів. Користувачі повинні враховувати, чи відповідають будь-які думки, погляди або висновки в цій статті їхнім специфічним обставинам. За ці інвестиції відповідальність несе сам користувач.