ИИ на устройствах Apple обретает ключевой элемент? В iPhone впервые поместили большую модель с 27 миллиардами параметров.

Apple стремится оставить более мощные возможности ИИ на устройстве, и стартап, поддерживаемый Khosla Ventures, возможно, предоставил ключевой элемент.

Стартап PrismML, получивший инвестиции от Khosla Ventures, заявляет, что успешно сжал большую ИИ-модель с 27 миллиардами параметров до размера, позволяющего работать локально на iPhone 17 Pro, установив новый рекорд размера мобильных ИИ-моделей. Компания утверждает, что технология сжатия не приводит к потере производительности, а соответствующая открытая модель будет официально выпущена во вторник.

По данным информированных источников, Apple уже провела переговоры с PrismML об использовании её технологии. Ранее The Information сообщало, что Apple активно ищет компании для приобретения, которые помогут запускать больше функций ИИ на устройствах. Источники отмечают, что в прошлом году Apple столкнулась с серьёзным падением производительности при попытке сжать собственную ИИ-модель для работы на iPhone.

27 миллиардов параметров полностью активны — новый рекорд для мобильного ИИ

PrismML сообщает, что сжатая модель — это открытая большая языковая модель Qwen 3.6, разработанная Alibaba, с 27 миллиардами параметров. Для сравнения, текущие основные мобильные модели активируют лишь несколько миллиардов параметров за раз.

Новая модель Apple, представленная на Всемирной конференции разработчиков в июне этого года, имеет 20 миллиардов параметров, но использует разрежённую архитектуру, активируя от 1 до 4 миллиардов параметров за раз. Модель PrismML держит все 27 миллиардов параметров активными одновременно — это различие компания считает своим ключевым конкурентным преимуществом.

PrismML утверждает, что модель способна выполнять сложные диалоги, рассуждения, полностью автономные агенты и задачи по программированию.

Математическая технология сжатия из Калифорнийского технологического института, эксклюзивная лицензия на патенты

PrismML — дочерняя компания Калифорнийского технологического института (Caltech). Её генеральный директор Бабака Хассби — профессор электротехники в Caltech, вместе с сооснователями он провёл математические исследования, лежащие в основе технологии. Caltech владеет соответствующими патентами и предоставил их эксклюзивную лицензию PrismML.

Основная технология компании заключается в математическом методе, который сжимает размер модели Qwen 3.6 с примерно 54 ГБ до менее чем 4 ГБ — коэффициент сжатия более 90%, при этом компания заявляет, что производительность не страдает.

Ранее в этом году PrismML завершила раунд посевного финансирования на сумму 16,25 миллиона долларов, в котором участвовала Khosla Ventures. Основатель Khosla Ventures Винод Хосла в интервью отметил, что его заинтересовала PrismML, поскольку компания предлагает «фундаментальный прорыв». «Мы сделали крупную ставку на трансформеры, инвестировав в OpenAI в 2018 году, но каков новый способ создания ИИ? Наша команда постоянно ищет новые пути», — сказал он.

Стратегия Apple в области устройственного ИИ и потенциальная логика приобретения

Apple долгое время делает упор на устройственный ИИ как на основу своей приверженности конфиденциальности и безопасности, во многом избегая гонки центров обработки данных, на которую технологические гиганты, такие как Microsoft, Amazon и Meta, потратили сотни миллиардов долларов.

Однако, как было объявлено в июне этого года, долгожданное крупное обновление Siri от Apple по-прежнему полагается на модель Gemini от Google, а её самые продвинутые функции требуют обращения к чипам Nvidia, работающим в Google Cloud. Этот разрыв между реальностью и видением устройственного ИИ делает технологию PrismML стратегически ценной для Apple.

Хассби прогнозирует, что в ближайшие три года подавляющее большинство ИИ-вычислений, необходимых пользователям, будет происходить локально. «Представьте, возможно, через три года 95% необходимого вам интеллекта можно будет получить на месте — на вашем телефоне, ноутбуке, бытовой технике — а к облаку придётся обращаться лишь за последними 5% высоких потребностей», — сказал он. «Я думаю, это то направление, которое видят люди».

Гибридные архитектуры бросают вызов

Не все в индустрии разделяют подход к полностью устройственному ИИ. Стартапы, такие как Argmax, используют гибридные архитектуры, выполняя обработку голоса и изображений на устройстве, а затем передавая информацию в облако для более сложных рассуждений.

Сторонники гибридного подхода указывают, что облачные большие модели обновляются с еженедельной скоростью, и модели, работающие полностью на устройстве, не смогут получать выгоду от последних достижений самых передовых облачных моделей. Этот вызов остаётся одной из ключевых проблем, с которыми PrismML придётся справляться на пути коммерциализации.

PrismML заявляет, что планирует продолжить сжатие ещё более крупных моделей — включая модели с триллионом параметров — для работы на устройствах, что выведет их в одну лигу с OpenAI GPT и Anthropic Claude.

Предупреждение о рисках и отказ от ответственности

        Рынок несёт риски, инвестиции требуют осторожности. Данная статья не является индивидуальной инвестиционной рекомендацией и не учитывает особые инвестиционные цели, финансовое положение или потребности отдельных пользователей. Пользователи должны оценивать любые мнения, взгляды или выводы в этой статье на соответствие их конкретной ситуации. Ответственность за инвестиции на основе этого материала лежит на самом инвесторе.