A IA no dispositivo da Apple ganha peça-chave? iPhone coloca pela primeira vez modelo de 27 bilhões de parâmetros

A Apple está buscando manter capacidades de IA mais poderosas no dispositivo, e uma startup apoiada pela Khosla Ventures pode ter fornecido a peça-chave.

A startup PrismML, investida pela Khosla Ventures, afirma ter comprimido com sucesso um modelo de IA de 27 bilhões de parâmetros para execução local no iPhone 17 Pro, estabelecendo um novo recorde para o tamanho de modelos de IA em dispositivos móveis. A empresa afirma que sua técnica de compressão não causa perda de desempenho e que o modelo de código aberto será oficialmente lançado na próxima terça-feira.

Segundo fontes próximas ao assunto, a Apple já realizou reuniões com a PrismML sobre como utilizar sua tecnologia. Anteriormente, o The Information noticiou que a Apple está ativamente buscando adquirir empresas que possam ajudá-la a executar mais funções de IA no dispositivo. As fontes afirmam que, no ano passado, a Apple enfrentou quedas significativas de desempenho ao tentar comprimir seus próprios modelos de IA para o iPhone.

Ativação total de 27 bilhões de parâmetros, novo recorde de IA móvel

A PrismML afirma que o modelo comprimido é o Qwen 3.6, um modelo de linguagem grande de código aberto desenvolvido pela Alibaba, com 27 bilhões de parâmetros. Em comparação, os modelos móveis atuais normalmente ativam apenas alguns bilhões de parâmetros por vez.

O novo modelo de dispositivo lançado pela Apple na Conferência Mundial de Desenvolvedores em junho possui 20 bilhões de parâmetros, mas utiliza uma arquitetura esparsa, ativando apenas entre 1 bilhão e 4 bilhões de parâmetros por vez. Já o modelo da PrismML mantém todos os 27 bilhões de parâmetros ativados simultaneamente durante a execução, o que a empresa considera uma vantagem competitiva central.

A PrismML afirma que o modelo é capaz de realizar tarefas como conversas complexas, raciocínio, agentes autônomos completos e programação de software.

Técnica de compressão matemática originada no Caltech, licença exclusiva de patente

A PrismML é uma empresa derivada do Caltech (Instituto de Tecnologia da Califórnia). Seu CEO, Babak Hassibi, é professor de engenharia elétrica na instituição e, junto com os cofundadores, realizou a pesquisa matemática que sustenta a tecnologia durante seu período na universidade. O Caltech detém as patentes relacionadas e as licenciou exclusivamente para a PrismML.

A tecnologia central da empresa envolve um método matemático que reduz o tamanho do modelo Qwen 3.6 de aproximadamente 54 GB para menos de 4 GB, uma taxa de compressão superior a 90%, e a empresa afirma que o desempenho não é afetado.

A PrismML concluiu uma rodada inicial de US$ 16,25 milhões no início deste ano, com participação da Khosla Ventures. O fundador da Khosla Ventures, Vinod Khosla, disse em uma entrevista que se interessou pela PrismML porque ela oferece um "avanço fundamental". "Investimos pesadamente no modelo Transformer quando apostamos na OpenAI em 2018, mas qual é a nova maneira de construir IA? Nossa equipe está sempre em busca de novos caminhos", afirmou.

Estratégia de IA no dispositivo da Apple e lógica de aquisição potencial

A Apple há muito tempo coloca a IA no dispositivo como um pilar central de seu compromisso com privacidade e segurança, evitando em grande parte a corrida armamentista de data centers que custa centenas de bilhões de dólares para gigantes da tecnologia como Microsoft, Amazon e Meta.

No entanto, a grande atualização da Siri, há muito esperada e anunciada pela Apple em junho, ainda depende do modelo Gemini do Google, e seus recursos mais avançados exigem a utilização de chips Nvidia executados na nuvem do Google. Essa realidade contrasta claramente com a visão de IA no dispositivo da Apple, tornando a tecnologia da PrismML potencialmente estratégica para a empresa.

Hassibi prevê que, nos próximos três anos, a grande maioria dos cálculos de IA necessários aos usuários será realizada localmente. "Imagine que, talvez em três anos, 95% da inteligência de que você precisa esteja disponível localmente — no seu celular, notebook, eletrodomésticos — e apenas os 5% finais de demandas de alto nível precisem ir para a nuvem", disse ele. "Acho que é essa a direção que as pessoas estão vendo."

Desafio da abordagem híbrida

Nem todos os profissionais do setor concordam com a abordagem exclusivamente local. Startups como a Argmax adotam arquiteturas híbridas, processando tarefas como voz e imagem no dispositivo e, em seguida, enviando informações para a nuvem para raciocínio mais complexo.

Defensores da abordagem híbrida apontam que os modelos grandes na nuvem estão atualmente sendo atualizados rapidamente, com novas versões a cada semana, e que os modelos de IA executados inteiramente no dispositivo terão dificuldade em se beneficiar dos ganhos de desempenho dos modelos de nuvem mais recentes e avançados. Esse desafio é uma das principais questões que a PrismML precisará enfrentar continuamente em seu caminho de comercialização.

A PrismML afirma que planeja continuar comprimindo modelos ainda maiores — incluindo modelos com trilhões de parâmetros — para execução no dispositivo, momento em que entrará em um campo de competição direta com o GPT da OpenAI e o Claude da Anthropic.

Aviso de risco e termos de isenção de responsabilidade

        O mercado envolve riscos, invista com cautela. Este artigo não constitui aconselhamento de investimento personalizado e não considera os objetivos de investimento, situação financeira ou necessidades específicas de usuários individuais. Os usuários devem considerar se quaisquer opiniões, pontos de vista ou conclusões neste artigo são adequados à sua situação específica. Investir com base neste artigo é por conta e risco do próprio investidor.