Maçãs no dispositivo lado AI enfrenta peça-chave do quebra-cabeça? iPhone pela primeira vez insere modelo grande de 27 bilhões de parâmetros

A Apple está buscando manter capacidades de IA mais poderosas no dispositivo, e uma startup apoiada pela Khosla Ventures pode ter fornecido a peça-chave.

A startup PrismML, investida pela Khosla Ventures, afirma ter conseguido comprimir um grande modelo de IA com 27 mil milhões de parâmetros para ser executado localmente num iPhone 17 Pro, estabelecendo um novo recorde para o tamanho de modelos de IA em dispositivos móveis. A empresa afirma que a sua tecnologia de compressão não causa perda de desempenho e que o modelo open-source será lançado na próxima terça-feira.

Segundo fontes familiarizadas com o assunto, a Apple já realizou reuniões com a PrismML sobre como utilizar a sua tecnologia. Anteriormente, o The Information noticiou que a Apple está a procurar ativamente adquirir empresas que possam ajudá-la a executar mais funcionalidades de IA no dispositivo. As fontes afirmam que, no ano passado, a Apple enfrentou uma queda significativa de desempenho ao tentar comprimir os seus modelos de IA internos para se adaptarem ao iPhone.

270 mil milhões de parâmetros totalmente ativados, novo recorde para IA móvel

A PrismML afirma que o modelo comprimido é o Qwen 3.6, um grande modelo de linguagem open-source desenvolvido pela Alibaba, com 27 mil milhões de parâmetros. Em comparação, os modelos móveis atuais têm apenas alguns milhares de milhões de parâmetros ativos de cada vez.

O novo modelo de dispositivo lançado pela Apple na Conferência Mundial de Programadores em junho tem 20 mil milhões de parâmetros, mas utiliza uma arquitetura esparsa, com apenas 1 a 4 mil milhões de parâmetros ativos de cada vez. O modelo da PrismML mantém todos os 27 mil milhões de parâmetros ativos simultaneamente durante a execução, uma diferença que a empresa considera uma vantagem competitiva central.

A PrismML afirma que o modelo é capaz de realizar tarefas como conversas complexas, raciocínio, agentes totalmente autónomos e programação de software.

Tecnologia de compressão matemática originada no Caltech, patente licenciada exclusivamente

A PrismML é uma spin-off do Instituto de Tecnologia da Califórnia (Caltech). O seu CEO, Babak Hassibi, é professor de engenharia elétrica na instituição e realizou a investigação matemática que suporta a tecnologia com os cofundadores durante o período académico. O Caltech detém as patentes relevantes e licenciou-as exclusivamente à PrismML.

A tecnologia central da empresa reside num método matemático que comprime o volume do modelo Qwen 3.6 de cerca de 54 GB para menos de 4 GB, uma taxa de compressão superior a 90%, e a empresa afirma que o desempenho não é afetado.

A PrismML concluiu uma ronda de financiamento seed de 16,25 milhões de dólares no início deste ano, com a participação da Khosla Ventures. Vinod Khosla, fundador da Khosla Ventures, afirmou numa entrevista que se interessou pela PrismML porque a empresa oferece uma "rutura fundamental". "Quando investimos na OpenAI em 2018, apostámos fortemente no modelo Transformer, mas qual é a nova forma de construir IA? A nossa equipa está sempre à procura de novos caminhos", disse ele.

Estratégia de IA no dispositivo da Apple e lógica de aquisição potencial

A Apple tem há muito tempo a IA no dispositivo como um pilar central do seu compromisso com a privacidade e segurança, evitando em grande parte a corrida armamentista de centros de dados que custa centenas de milhares de milhões de dólares a gigantes tecnológicos como Microsoft, Amazon e Meta.

No entanto, a muito aguardada grande atualização da Siri anunciada pela Apple em junho ainda depende do modelo Gemini do Google, e as suas funcionalidades mais avançadas requerem a execução em chips da NVIDIA na cloud do Google. Esta situação está em claro desalinhamento com a visão de IA no dispositivo da Apple, tornando a tecnologia da PrismML potencialmente valiosa para a Apple.

Hassibi prevê que, nos próximos três anos, a maioria dos cálculos de IA necessários aos utilizadores será realizada localmente. "Imagine que, talvez daqui a três anos, 95% da inteligência de que precisa possa ser obtida localmente — no seu telemóvel, portátil, eletrodomésticos — e apenas os últimos 5% de necessidades de topo precisarão realmente de ir para a cloud", disse ele. "Acho que é esta a direção que as pessoas veem."

Desafios levantados pela arquitetura híbrida

Nem todos os profissionais da indústria concordam com a abordagem puramente de IA no dispositivo. Startups como a Argmax utilizam uma arquitetura híbrida, processando tarefas como voz e imagem no dispositivo e depois enviando informações para a cloud para raciocínio mais complexo.

Os defensores da arquitetura híbrida apontam que os grandes modelos na cloud estão a ser atualizados rapidamente, com novas versões semanais, e os modelos de IA totalmente executados no dispositivo terão dificuldade em beneficiar das melhorias de desempenho dos modelos mais recentes e avançados da cloud. Este desafio é uma das questões centrais que a PrismML terá de enfrentar continuamente no seu caminho de comercialização.

A PrismML afirma que planeia continuar a comprimir modelos ainda maiores — incluindo modelos com biliões de parâmetros — para execução no dispositivo, entrando então no campo de concorrência com o GPT da OpenAI e o Claude da Anthropic.

Aviso de risco e termos de isenção de responsabilidade

        O mercado tem riscos, e o investimento requer cautela. Este artigo não constitui aconselhamento de investimento pessoal e não considera os objetivos de investimento, situação financeira ou necessidades específicas de cada utilizador. Os utilizadores devem considerar se quaisquer opiniões, pontos de vista ou conclusões neste artigo se adequam à sua situação específica. O investimento com base neste artigo é da sua inteira responsabilidade.