Apple consigue la pieza clave para la IA en el dispositivo? El iPhone incluye por primera vez un modelo de 27 mil millones de parámetros

robot
Generación de resúmenes en curso

Apple busca mantener capacidades de IA más potentes en el dispositivo, y una startup respaldada por Khosla Ventures podría ofrecer la pieza clave.

La startup PrismML, respaldada por Khosla Ventures, afirma haber comprimido con éxito un modelo de IA de 27 mil millones de parámetros para ejecutarlo de forma local en un iPhone 17 Pro, estableciendo un nuevo récord de tamaño de modelo de IA en dispositivos móviles. La compañía asegura que su técnica de compresión no causa pérdida de rendimiento, y que el modelo de código abierto se publicará el próximo martes.

Según fuentes cercanas, Apple ya ha mantenido conversaciones con PrismML sobre el uso de su tecnología. Previamente, The Information informó que Apple busca activamente adquirir empresas que ayuden a ejecutar más funciones de IA en el dispositivo. Las fuentes indican que el año pasado, al intentar comprimir sus modelos internos para adaptarlos al iPhone, Apple se enfrentó a graves caídas de rendimiento.

27 mil millones de parámetros completamente activos, nuevo récord de IA móvil

PrismML señala que el modelo comprimido es Qwen 3.6, un modelo de lenguaje de código abierto desarrollado por Alibaba, con 27 mil millones de parámetros. En comparación, los modelos móviles actuales solo activan unos pocos miles de millones de parámetros cada vez.

El nuevo modelo presentado por Apple en la WWDC de junio tiene 20 mil millones de parámetros, pero utiliza una arquitectura dispersa que activa solo entre 1 mil millones y 4 mil millones de parámetros por vez. El modelo de PrismML mantiene los 27 mil millones de parámetros completamente activos durante la ejecución, lo que la compañía considera una ventaja competitiva clave.

PrismML afirma que el modelo es capaz de realizar tareas complejas como conversación, razonamiento, agentes autónomos completos y programación de software.

Técnica matemática de compresión originada en Caltech, licencia exclusiva de patente

PrismML es una empresa derivada del Instituto de Tecnología de California (Caltech). Su CEO, Babak Hassibi, es profesor de ingeniería eléctrica en Caltech, y desarrolló la investigación matemática que sustenta la tecnología junto con los cofundadores durante su etapa en la institución. Caltech posee las patentes y las ha licenciado en exclusiva a PrismML.

La tecnología central de la compañía utiliza un método matemático para reducir el tamaño del modelo Qwen 3.6 de aproximadamente 54 GB a menos de 4 GB, una compresión superior al 90 %, y la empresa afirma que el rendimiento no se ve afectado.

PrismML completó una ronda de financiación inicial de 16,25 millones de dólares a principios de este año, con la participación de Khosla Ventures. Vinod Khosla, fundador de Khosla Ventures, dijo en una entrevista que se interesó en PrismML porque la compañía ofrecía un "avance fundamental". "Invertimos fuertemente en el modelo Transformer cuando apostamos por OpenAI en 2018, pero ¿cuál es la nueva forma de construir IA? Nuestro equipo siempre está buscando nuevos caminos", afirmó.

Estrategia de IA en el dispositivo de Apple y posible lógica de adquisición

Apple ha considerado durante mucho tiempo la IA en el dispositivo como un pilar central de su compromiso con la privacidad y la seguridad, y en gran medida se ha mantenido al margen de la costosa carrera armamentística de centros de datos emprendida por gigantes tecnológicos como Microsoft, Amazon y Meta, que han invertido cientos de miles de millones de dólares.

Sin embargo, la gran actualización de Siri, anunciada por Apple en junio tras años de retraso, sigue dependiendo del modelo Gemini de Google, y sus funciones más avanzadas requieren el uso de chips Nvidia ejecutándose en la nube de Google. Esta situación contrasta con la visión de Apple de la IA en el dispositivo, lo que otorga a la tecnología de PrismML un valor estratégico potencial.

Hassibi predice que, en los próximos tres años, la gran mayoría de la computación de IA que los usuarios necesiten se realizará localmente. "Imagina que, quizás en tres años, el 95 % de la inteligencia que necesites esté disponible localmente —en tu teléfono, portátil, electrodomésticos— y solo el último 5 % de las necesidades más avanzadas requiera la nube", dijo. "Creo que esa es la dirección que la gente ve".

Desafío de la arquitectura híbrida

No todos los expertos del sector respaldan la ruta puramente local. Startups como Argmax adoptan una arquitectura híbrida que procesa tareas como voz e imagen en el dispositivo, y envía la información a la nube para razonamientos más complejos.

Los defensores de la arquitectura híbrida señalan que los grandes modelos en la nube se actualizan rápidamente, a menudo cada semana, mientras que los modelos completamente locales difícilmente podrán beneficiarse del rendimiento de los modelos cloud más avanzados y actualizados. Este desafío es uno de los problemas centrales que PrismML deberá abordar en su camino hacia la comercialización.

PrismML afirma que planea seguir comprimiendo modelos aún más grandes —incluidos modelos con billones de parámetros— para ejecutarlos en dispositivos, momento en el que competirá directamente con GPT de OpenAI y Claude de Anthropic.

Aviso de riesgos y términos de exención de responsabilidad

        El mercado conlleva riesgos, invertir con precaución. Este artículo no constituye un consejo de inversión personal, ni considera los objetivos, situación financiera o necesidades específicas de cada usuario. Los usuarios deben evaluar si las opiniones, puntos de vista o conclusiones aquí expresados se ajustan a su situación particular. Cualquier inversión basada en esto es responsabilidad exclusiva del lector.
AAPL0,92%
MSFT0,33%
AMZN1,42%
META4,68%
NVDA-0,70%
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado