OpenAI puede estar a punto de construir un teléfono, y puede ser un teléfono de IA diseñado específicamente para ChatGPT.
Recientemente, según The Information, el CEO de OpenAI, Sam Altman, ha estado en contacto con Jony Ive, un destacado diseñador de iPhone, para discutir el desarrollo de un nuevo dispositivo de hardware de IA.
El CEO de SoftBank, Masayoshi Son, también se interesó y "habló con los dos sobre la idea".
Aunque la cooperación tripartita aún no es concluyente, a juzgar por el estatus siempre publicitado de Son como un "gran usuario" de ChatGPT, este asunto es una broma.
Por un lado, las empresas de IA se preparan para entrar en el campo del hardware; Por otro lado, los fabricantes de teléfonos móviles también están dando un paso adelante para adoptar modelos de IA.
El 4 de octubre, hora del este, Google lanzó el teléfono móvil de la serie Google Pixel 8 equipado con el modelo básico de IA de Google y "centrado en la inteligencia artificial" - ** - teniendo en cuenta que el sistema Android original de Google ha llevado a los teléfonos con funciones a la era de los teléfonos inteligentes de una sola vez, la entrada de Google puede haber iniciado el preludio de los teléfonos móviles con IA. **
Los fabricantes nacionales de teléfonos móviles también están llegando.
El 11 de octubre, OPPO anunció que se inauguró oficialmente la nueva experiencia Xiaobu Assistant 1.0 Beta basada en su modelo andino grande autoentrenado (AndesGPT), y que el Xiaobu Assistant actualizado tendrá capacidades de modelo grande de IA.
Se trata de un fabricante de teléfonos móviles que lanzó el asistente inteligente de teléfono móvil de modelo grande de IA incorporada después de que Xiaomi anunciara la prueba interna de amor pequeño del modelo grande de IA incorporado.
Desde el anuncio del acceso del sistema de telefonía móvil al modelo grande Pangu, hasta la apertura de la prueba de multitudes del asistente de voz Xiaoyi con un modelo grande incorporado, y el lanzamiento de la nueva serie Huawei Mate60 con modelo grande de IA incorporado, se completó en más de un mes.
Aunque vivo no ha hecho un progreso real en la aplicación de modelos grandes, su modelo grande de 7 mil millones de parámetros desarrollado por él mismo vivo \ _Agent \ _LM \ _7B ha aparecido en la lista C en agosto; Y el funcionario también anunció el lanzamiento del modelo grande de desarrollo propio en el Foro Internacional de Ciencia y Tecnología e Innovación de Boao Forum for Asia en septiembre.
Honor es aún más fogoso, y a principios de julio, lanzó el Magic V2, que es conocido como "el primer teléfono móvil doméstico del mundo con un modelo grande de IA integrada nativa", ganando suficientes trucos; Sin embargo, el progreso de su gran modelo de desarrollo propio no mostró el más mínimo viento, sino que declaró que "cooperaría con las empresas de Internet en términos de un gran modelo de red".
......
** El afán de los gigantes de la telefonía móvil nacionales y extranjeros por secar rápidamente los grandes modelos de IA es obvio. Esto se debe principalmente a que la innovación del mercado de la telefonía móvil es débil y realmente no se puede mover; Y es probable que "poner el modelo grande en el teléfono móvil" logre un avance revolucionario en la función y la experiencia del teléfono móvil, lo que se espera que desencadene una nueva ronda de olas de reemplazo. **
En primer lugar, ¿se espera que los teléfonos móviles con IA curen la involución del mercado? **
¿Por qué los fabricantes nacionales de teléfonos móviles están acudiendo en masa a los modelos de IA?
El valor más directo es la mejora del rendimiento y la experiencia del teléfono móvil.
Cuando el modelo grande de IA se integra en el sistema de telefonía móvil, por un lado, puede mejorar la capacidad del teléfono móvil para procesar imágenes, voz, procesamiento de lenguaje natural y otras tareas, y mejorar significativamente el rendimiento del teléfono móvil. Por otro lado, puede responder de manera más flexible a las necesidades del usuario y mejorar la experiencia del usuario, y con la evolución de los algoritmos de IA, el gran modelo cargado en el lado final profundiza la comprensión de los usuarios, y el teléfono móvil puede predecir el comportamiento del usuario y optimizarlo con anticipación, volviéndose cada vez más inteligente, de "mil personas y una máquina" a "mil personas y miles de máquinas".
** El gran modelo de IA implementado localmente en el teléfono móvil no solo puede realizar la optimización y el empoderamiento de varias aplicaciones por parte de la IA, sino que también sirve como una interfaz general para romper barreras y permitir la combinación libre de las capacidades de la aplicación, mejorando así la experiencia del usuario y la competitividad del producto. **
Los modelos de la serie Huawei Mate 60 y los teléfonos móviles de la serie Google Pixel 8, que son los primeros en aterrizar modelos de IA en el país y en el extranjero, son ejemplos.
Los teléfonos móviles Huawei han aplicado durante mucho tiempo las capacidades de IA para mejorar el procesamiento de imágenes de teléfonos móviles, y después de que el modelo de IA se integra en el sistema, la mejora más obvia en la experiencia es su asistente de voz para teléfonos móviles Xiaoyi.
A diferencia de los chatbots de IA generativa como ChatGPT de OpenAI y Google Bard, Xiaoyi de Huawei ha sido refactorizado bajo el sistema operativo HarmonyOS.
Es decir, los dos primeros son solo aplicaciones de IA cargadas en teléfonos móviles, y Xiaoyi usa el modelo grande como el cerebro del sistema inteligente y mejora de manera integral las capacidades del sistema con la ayuda de las capacidades de alto orden del modelo grande.
Xiaoyi, que tiene el modelo grande de Pangu como soporte subyacente, no solo logra una iteración de salto de las capacidades de comprensión del lenguaje natural, sino que también utiliza la IA generativa para hacer muchas cosas por los usuarios, como resumir información, escribir artículos, responder correos electrónicos, escribir memorandos y crear imágenes.
No solo para satisfacer las necesidades de la vida, sino incluso para ayudar con el trabajo. Por ejemplo, invite a socios a una reunión, dicte directamente la hora de la reunión, el personal invitado y el contenido de la discusión con Xiaoyi, y Xiaoyi puede escribir un correo electrónico de invitación a la reunión.
** Vale la pena mencionar que Xiaoyi ha roto las barreras entre las aplicaciones y ha hecho frente a escenarios de demanda de usuarios más complejos. **
Por ejemplo, para una imagen de póster, solicite la información de dirección relevante de Xiaoyi y solicite navegar a la ubicación de destino, Xiaoyi puede identificar con precisión la información de la dirección en el póster y abrir la aplicación de navegación para navegar.
Por ejemplo, si desea encontrar un restaurante de carnes, Xiaoyi puede comprender con precisión la intención y llamar directamente al servicio de Meituan para encontrar el restaurante correspondiente.
La mejora de las capacidades de procesamiento de imágenes de los teléfonos móviles de la serie Google Pixel 8 también es sorprendente.
Con la IA generativa, el Magic Editor de Google Fotos puede usar una foto ya tomada, seleccionar manualmente otra expresión de otras fotos y generar una nueva foto, con "los ojos de todos abiertos".
Además, esta función también puede borrar fondos innecesarios y desorden en las fotos, de modo que las "partes discapacitadas" que tienen teléfonos móviles de alta gama pero no pueden tomar fotos calificadas también pueden convertirse en maestros de la película.
** La mejora de la experiencia de la función del teléfono móvil del modelo grande de IA es obvia y puede satisfacer las necesidades de los usuarios, o estimulará a una gran cantidad de usuarios que tienen la intención de intentar el cambio temprano, rompiendo el dilema de la involución homogénea de la innovación débil en la industria de la telefonía móvil. **
Según el último informe publicado por el instituto de investigación de mercado Canalys, en el segundo trimestre de 2023, el mercado de teléfonos inteligentes de China envió alrededor de 64,3 millones de unidades, un 5% menos que en el mismo período del año pasado; El mercado mundial de teléfonos inteligentes también carece de impulso, con una caída interanual del 10% en los envíos en el segundo trimestre de este año.
En el mercado en declive, el mercado de gama alta es relativamente bueno. La analista de Canalys, Amber Liu, señaló que "los consumidores están cada vez más dispuestos a pagar por productos de alta calidad. El precio promedio en el mercado de teléfonos inteligentes de China ha superado los 450 dólares desde el año pasado y se espera que continúe subiendo en los próximos trimestres. "
** Si los teléfonos móviles con IA pueden mejorar en gran medida la experiencia, los mercados de telefonía móvil nacionales y extranjeros se activarán o volverán a ser posibles. **
Huatai Securities escribió en su artículo "¿Impulsará la IA una nueva ronda de marea de reemplazo?" La investigación especial señaló que con el advenimiento de la era de los modelos grandes de IA, se espera que la IA se convierta en un factor importante que impulse la próxima ronda de marea de reemplazo, se espera que el primer lote de "teléfonos móviles con IA" se lance en la segunda mitad de 2023, en la actualidad, los teléfonos móviles con IA aplican principalmente la tecnología NLP (procesamiento del lenguaje natural) y CV (visión por computadora), y se espera que las aplicaciones de IA más innovadoras aterricen en los teléfonos móviles en 2024-2025.
En la reunión de resultados del segundo trimestre de 2023, MediaTek también expresó una opinión similar, creyendo que "los teléfonos móviles de aterrizaje de IA acelerarán el ciclo de reemplazo".
En segundo lugar, ** modelo grande de "acaparamiento de playa", el progreso de los fabricantes es diferente **
** De hecho, la industria de la telefonía móvil está compitiendo por el gran modelo de IA, no solo siguiendo el punto caliente, los fabricantes principales han estado diseñando IA durante algún tiempo, y está progresando paso a paso, más desde el nivel de mejora funcional en la etapa inicial, y ahora está penetrando gradualmente en el nivel del sistema. **
Aunque Huawei no anunció que conectaría el modelo grande al sistema de telefonía móvil hasta el lanzamiento del sistema Hongmeng 4 en agosto de este año, el modelo grande Pangu ha comenzado la investigación y el desarrollo ya en septiembre de 2020, y se ha iterado a la versión 3.0 y se ha comercializado.
También es uno de los primeros en presentar el modelo grande de IA OPPO.
Desde 2020, el equipo de asistentes de OPPO Xiaobu ha estado explorando y aplicando grandes modelos de lenguaje.
Ya antes del lanzamiento de su gran proyecto de modelo AndesGPT, OPPO ha lanzado una gran cantidad de inversión en IA, ha desarrollado y explorado modelos de lenguaje preentrenados y ha desarrollado de forma independiente OBERT, un gran modelo que ocupó el quinto lugar en la lista general del punto de referencia de evaluación de la comprensión del idioma chino CLUE1.1, la pregunta y respuesta de gráfico de conocimiento a gran escala KgCLUE1.0 y ocupó el primer lugar en el ranking.
Aunque el tiempo para que vivo desarrolle modelos grandes de IA aún no está disponible, se puede ver en el establecimiento del Instituto de Investigación Global de IA en 2018 y la presentación de modelos grandes de 7 mil millones de parámetros vivo_Agent_LM_7B en el sitio web de evaluación autorizada en agosto de este año, y el tiempo de investigación y desarrollo en campos relacionados no será corto.
Xiaomi no es demasiado tarde, ya que en julio de 2016 ha presentado la IA, y en abril de este año, estableció oficialmente un gran equipo de modelos de laboratorio de IA.
Como dijo Luan Jian, jefe del gran equipo de modelos del Laboratorio de IA del Comité Técnico de Xiaomi, "La combinación de teléfonos móviles e IA ha existido durante mucho tiempo, como el ajuste de fotos en la foto: enfoque rápido, súper resolución, etc." Ahora, agregar modelos grandes a los teléfonos móviles es una actualización, que mejora la interacción con el lenguaje natural, incluidas las capacidades de procesamiento de textos, las capacidades de procesamiento multimodal, etc. "
** La razón por la que los fabricantes nacionales de teléfonos móviles tienen prisa por llevar sus modelos de IA al frente del escenario en los últimos tres o cuatro meses, e incluso integrarlos en los teléfonos móviles, o quieren aprovechar preventivamente el período de ventana de la ola de reemplazo que pueden traer los teléfonos móviles de IA. **
** Los fabricantes de teléfonos móviles aceleran el aterrizaje de los modelos grandes de IA, hasta cierto punto, también es una "autoayuda" para la débil demanda de los consumidores. **
De acuerdo con el contenido antes mencionado, además de la gloria del progreso de los modelos grandes de desarrollo propio, la mayoría de los gigantes nacionales de la telefonía móvil básicamente han elegido modelos grandes de IA de desarrollo propio, pero debido a sus respectivas condiciones y hora de inicio, el progreso de aterrizaje no es el mismo.
Huawei, que ha construido su propio ecosistema, es actualmente el primer fabricante nacional de teléfonos móviles en poner un gran modelo de IA de teléfono móvil en una nueva máquina.
El segundo es OPPO y Xiaomi. Aunque los dos no han lanzado oficialmente un nuevo modelo con un modelo grande de IA incorporado, han comenzado las pruebas públicas e internas de sus nuevos asistentes móviles con modelos grandes de IA incorporados, tomando medidas para integrar modelos grandes de IA y sistemas de telefonía móvil.
OPPO es más reflexivo en su conjunto y hace un buen trabajo al encontrarse con los fabricantes de antemano. Mientras entrena de forma independiente modelos de lenguaje grande de AndesGPT, OPPO también coopera con MediaTek, con la esperanza de tomar prestada su tecnología de cuantificación de 4 bits para lograr un mejor rendimiento en el lado inferior sin perder precisión, y promover el aterrizaje ligero de AndesGPT en el lado final lo antes posible.
Aunque el modelo grande de desarrollo propio de Vivio ha sido incluido en el ranking autorizado, hasta ahora no ha habido un comportamiento de aterrizaje específico.
Se rumorea que vivio lanzará un nuevo sistema OriginOS 4.0 con modelos de IA incorporados alrededor de octubre de este año, y si se lanza una nueva máquina con un nuevo sistema con modelos de IA incorporados en ese momento, se espera que vivo se convierta en el segundo fabricante nacional de teléfonos móviles después de Huawei en aterrizar modelos grandes de IA en nuevas máquinas.
A diferencia del software y el hardware autónomos de Huawei, mientras que otros fabricantes de teléfonos móviles desarrollan sus propios modelos grandes, es inevitable cooperar con los fabricantes de hardware ascendentes en el futuro para promover mejor el aterrizaje de los grandes modelos de IA de desarrollo propio en los teléfonos móviles con la ayuda de sus chips y tecnologías livianas, con más variables.
Hasta cierto punto, ¿quién puede entrar más rápido con los fabricantes de hardware y acelerar el aterrizaje ligero de los modelos grandes de desarrollo propio, quién puede aprovechar la oportunidad más rápido?
En tercer lugar, **Gran modelo de desarrollo propio: ¿se moverá eventualmente hacia la integración de dispositivos y nubes? **
Surge otra pregunta: en la actualidad, la "guerra de los 100 modelos" del mercado está caliente, ¿por qué los fabricantes de teléfonos móviles no adoptan la doctrina y llaman directamente a la interfaz de código abierto del modelo grande de la nube madura, y tienen que desarrollar personalmente el modelo grande del lado final?
**La razón se puede resumir en dos palabras clave: mal cinturón y no moverse. **
Por un lado, la aplicación específica de grandes modelos desplegados en la nube como ChatGPT siempre ha ido acompañada de fuertes disputas de privacidad y seguridad.
** La implementación localizada del modelo grande de IA de teléfonos móviles, los datos no saldrán del lado final y la privacidad y seguridad de los datos del usuario están más garantizadas. **
Debido a que la cantidad de parámetros es relativamente liviana, la velocidad de carga y funcionamiento de los modelos de teléfonos móviles grandes será más rápida y no está limitada por el entorno de red.
** Además, el diseño de modelo grande y liviano en el teléfono móvil tiene un ciclo de capacitación corto, se puede actualizar rápidamente de forma iterativa de acuerdo con las necesidades del usuario y es más flexible para responder a las necesidades del usuario. **
Huatai Securities también afirmó en el informe de investigación antes mencionado que, a diferencia de los requisitos de alto rendimiento informático del enlace de entrenamiento, el enlace de inferencia utiliza principalmente el modelo entrenado para realizar predicciones de inferencia basadas en las necesidades del usuario, y tiene requisitos más bajos para el rendimiento informático máximo, y presta más atención a indicadores integrales como el consumo de energía unitaria, la potencia informática, el retraso y el costo.
Dado que la potencia de computación en la nube y los dispositivos terminales deben transmitirse a través de canales de red, solo la potencia de computación de inferencia se distribuye en la nube, que está limitada por el ancho de banda de la red y la distancia de transmisión, y no puede cumplir con los requisitos de baja latencia y alta confiabilidad en algunos escenarios.
Por otro lado, para el modelo en la nube, con el aumento de los requisitos de acceso y la frecuencia de uso, el consumo de potencia de computación en la nube, ancho de banda de red, almacenamiento, hardware y otros recursos se vuelve más pesado.
Si los fabricantes de teléfonos móviles ponen la fuerza motriz de la revolución del rendimiento de los teléfonos móviles en estos modelos "voluminosos" de la nube, la experiencia de rendimiento del teléfono móvil es fácilmente inestable e incluso arrastrada al atolladero.
Para el problema de los modelos grandes de extremo de desarrollo propio, Luan Jian, jefe del equipo de modelos grandes del Laboratorio de IA del Comité Técnico de Xiaomi, respondió en una entrevista con Tencent Technology, lo que nos permite ver sus consideraciones desde la perspectiva de los fabricantes de teléfonos móviles.
Con respecto a la autoinvestigación, Luan Jian cree que ** en varios terminales de dispositivos, los chips utilizados no son los mismos y serán diferentes en tamaño de memoria, potencia de cálculo y subconjunto de cómputo compatible con la plataforma. Esto requiere que el modelo se ajuste dinámicamente a las condiciones del hardware para lograr un rendimiento óptimo. **
** Un modelo de código abierto, por otro lado, es estructuralmente fijo, ya no se puede ajustar y su uso es muy limitado. Si quieres tener la capacidad de personalizar la estructura del modelo y entrenarlo desde cero, debes desarrollarlo tú mismo. **
Esto también explica por qué los fabricantes de teléfonos móviles tienen que desarrollar modelos grandes, por un lado, y por otro, tienen que reforzar el encuentro con los fabricantes de hardware.
Luan Jian también señaló que el modelo grande en el lado final puede proteger mejor la privacidad del usuario y permitir que los usuarios obtengan más funciones a un costo menor, pero esto no significa que todos los problemas se puedan resolver con teléfonos móviles.
Aunque los fabricantes de hardware como Qualcomm y MediaTek pueden garantizar que la eficiencia energética y el rendimiento de los teléfonos móviles mejoren, mientras que los modelos ligeros de gran tamaño aterrizan; Pero es innegable que no importa cuán comprimido esté el modelo grande de IA, el volumen de los parámetros está ahí, y los requisitos para el hardware y el rendimiento de los teléfonos móviles solo serán cada vez más altos.
El mencionado informe de investigación de Huatai Securities también señaló que la gran cantidad de cálculos de modelos de IA planteará mayores requisitos para el ancho de banda del bus; La ejecución constante de tareas de inferencia acelerará el consumo de energía del dispositivo, extraerá la capacidad de la batería y los requisitos de actualización del chip de administración de energía correspondientes.
A medida que las predicciones de los grandes modelos se vuelvan cada vez más precisas, estos problemas se volverán cada vez más obvios, o impulsarán la actualización de las cadenas industriales ascendentes y descendentes.
Entonces, además de optimizar continuamente las tecnologías cuantitativas y mejorar la configuración de los teléfonos móviles, ¿qué otras soluciones tienen los fabricantes de teléfonos móviles para hacer frente de manera efectiva a los requisitos más altos que trae la evolución de los modelos grandes en el lado final?
**En este sentido, el concepto de "integración dispositivo-nube" propuesto por Xiaomi puede ser una opción realista, es decir, algunas capacidades o funciones de los futuros teléfonos móviles de IA, que pueden resolverse mediante el modelo del lado del dispositivo, se resolverán en el lado final; Si el lado final no puede resolver el problema, se llama a la funcionalidad de nube. **Esto no solo garantiza la seguridad de la privacidad y una comprensión precisa y una respuesta flexible a las necesidades del usuario, sino que también garantiza operaciones más complejas y avanzadas y optimiza la experiencia del usuario.
Qualcomm también propuso ideas similares a Xiaomi.
En el libro blanco técnico "La IA híbrida es el futuro de la IA", Qualcomm señaló que ** Con el desarrollo sin precedentes de la IA generativa y la creciente demanda de computación, el procesamiento de la IA debe llevarse a cabo por separado en la nube y en la terminal para lograr la escala de la IA y alcanzar su máximo potencial. **
La solución actual de Huawei también está muy cerca de las dos anteriores.
Se entiende que, en respuesta a las necesidades de los consumidores en diferentes dispositivos y escenarios, el gran modelo detrás de Huawei Xiaoyi tiene la forma de extremo y nube. En la combinación de arte pequeño y modelos grandes, el modelo grande del lado final primero realizará una capa de preprocesamiento en las solicitudes del usuario y la información de contexto, y luego enviará los requisitos preprocesados al lado de la nube, para maximizar las ventajas del "modelo rápido del lado final" y el "modelo sólido del lado de la nube".
** La IA ha llegado, como el terminal inteligente más utilizado con la mayor adherencia del usuario, los teléfonos móviles pueden convertirse en el primer portador de la popularización de la explosión de la IA. **
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Los fabricantes de teléfonos móviles aprovechan la marea del reemplazo de la IA
Fuente original: Financial Story Club
OpenAI puede estar a punto de construir un teléfono, y puede ser un teléfono de IA diseñado específicamente para ChatGPT.
Recientemente, según The Information, el CEO de OpenAI, Sam Altman, ha estado en contacto con Jony Ive, un destacado diseñador de iPhone, para discutir el desarrollo de un nuevo dispositivo de hardware de IA.
El CEO de SoftBank, Masayoshi Son, también se interesó y "habló con los dos sobre la idea".
Aunque la cooperación tripartita aún no es concluyente, a juzgar por el estatus siempre publicitado de Son como un "gran usuario" de ChatGPT, este asunto es una broma.
Por un lado, las empresas de IA se preparan para entrar en el campo del hardware; Por otro lado, los fabricantes de teléfonos móviles también están dando un paso adelante para adoptar modelos de IA.
El 4 de octubre, hora del este, Google lanzó el teléfono móvil de la serie Google Pixel 8 equipado con el modelo básico de IA de Google y "centrado en la inteligencia artificial" - ** - teniendo en cuenta que el sistema Android original de Google ha llevado a los teléfonos con funciones a la era de los teléfonos inteligentes de una sola vez, la entrada de Google puede haber iniciado el preludio de los teléfonos móviles con IA. **
Los fabricantes nacionales de teléfonos móviles también están llegando.
El 11 de octubre, OPPO anunció que se inauguró oficialmente la nueva experiencia Xiaobu Assistant 1.0 Beta basada en su modelo andino grande autoentrenado (AndesGPT), y que el Xiaobu Assistant actualizado tendrá capacidades de modelo grande de IA.
Se trata de un fabricante de teléfonos móviles que lanzó el asistente inteligente de teléfono móvil de modelo grande de IA incorporada después de que Xiaomi anunciara la prueba interna de amor pequeño del modelo grande de IA incorporado.
Desde el anuncio del acceso del sistema de telefonía móvil al modelo grande Pangu, hasta la apertura de la prueba de multitudes del asistente de voz Xiaoyi con un modelo grande incorporado, y el lanzamiento de la nueva serie Huawei Mate60 con modelo grande de IA incorporado, se completó en más de un mes.
Aunque vivo no ha hecho un progreso real en la aplicación de modelos grandes, su modelo grande de 7 mil millones de parámetros desarrollado por él mismo vivo \ _Agent \ _LM \ _7B ha aparecido en la lista C en agosto; Y el funcionario también anunció el lanzamiento del modelo grande de desarrollo propio en el Foro Internacional de Ciencia y Tecnología e Innovación de Boao Forum for Asia en septiembre.
Honor es aún más fogoso, y a principios de julio, lanzó el Magic V2, que es conocido como "el primer teléfono móvil doméstico del mundo con un modelo grande de IA integrada nativa", ganando suficientes trucos; Sin embargo, el progreso de su gran modelo de desarrollo propio no mostró el más mínimo viento, sino que declaró que "cooperaría con las empresas de Internet en términos de un gran modelo de red".
......
** El afán de los gigantes de la telefonía móvil nacionales y extranjeros por secar rápidamente los grandes modelos de IA es obvio. Esto se debe principalmente a que la innovación del mercado de la telefonía móvil es débil y realmente no se puede mover; Y es probable que "poner el modelo grande en el teléfono móvil" logre un avance revolucionario en la función y la experiencia del teléfono móvil, lo que se espera que desencadene una nueva ronda de olas de reemplazo. **
En primer lugar, ¿se espera que los teléfonos móviles con IA curen la involución del mercado? **
¿Por qué los fabricantes nacionales de teléfonos móviles están acudiendo en masa a los modelos de IA?
El valor más directo es la mejora del rendimiento y la experiencia del teléfono móvil.
Cuando el modelo grande de IA se integra en el sistema de telefonía móvil, por un lado, puede mejorar la capacidad del teléfono móvil para procesar imágenes, voz, procesamiento de lenguaje natural y otras tareas, y mejorar significativamente el rendimiento del teléfono móvil. Por otro lado, puede responder de manera más flexible a las necesidades del usuario y mejorar la experiencia del usuario, y con la evolución de los algoritmos de IA, el gran modelo cargado en el lado final profundiza la comprensión de los usuarios, y el teléfono móvil puede predecir el comportamiento del usuario y optimizarlo con anticipación, volviéndose cada vez más inteligente, de "mil personas y una máquina" a "mil personas y miles de máquinas".
** El gran modelo de IA implementado localmente en el teléfono móvil no solo puede realizar la optimización y el empoderamiento de varias aplicaciones por parte de la IA, sino que también sirve como una interfaz general para romper barreras y permitir la combinación libre de las capacidades de la aplicación, mejorando así la experiencia del usuario y la competitividad del producto. **
Los modelos de la serie Huawei Mate 60 y los teléfonos móviles de la serie Google Pixel 8, que son los primeros en aterrizar modelos de IA en el país y en el extranjero, son ejemplos.
Los teléfonos móviles Huawei han aplicado durante mucho tiempo las capacidades de IA para mejorar el procesamiento de imágenes de teléfonos móviles, y después de que el modelo de IA se integra en el sistema, la mejora más obvia en la experiencia es su asistente de voz para teléfonos móviles Xiaoyi.
A diferencia de los chatbots de IA generativa como ChatGPT de OpenAI y Google Bard, Xiaoyi de Huawei ha sido refactorizado bajo el sistema operativo HarmonyOS.
Es decir, los dos primeros son solo aplicaciones de IA cargadas en teléfonos móviles, y Xiaoyi usa el modelo grande como el cerebro del sistema inteligente y mejora de manera integral las capacidades del sistema con la ayuda de las capacidades de alto orden del modelo grande.
Xiaoyi, que tiene el modelo grande de Pangu como soporte subyacente, no solo logra una iteración de salto de las capacidades de comprensión del lenguaje natural, sino que también utiliza la IA generativa para hacer muchas cosas por los usuarios, como resumir información, escribir artículos, responder correos electrónicos, escribir memorandos y crear imágenes.
No solo para satisfacer las necesidades de la vida, sino incluso para ayudar con el trabajo. Por ejemplo, invite a socios a una reunión, dicte directamente la hora de la reunión, el personal invitado y el contenido de la discusión con Xiaoyi, y Xiaoyi puede escribir un correo electrónico de invitación a la reunión.
** Vale la pena mencionar que Xiaoyi ha roto las barreras entre las aplicaciones y ha hecho frente a escenarios de demanda de usuarios más complejos. **
Por ejemplo, para una imagen de póster, solicite la información de dirección relevante de Xiaoyi y solicite navegar a la ubicación de destino, Xiaoyi puede identificar con precisión la información de la dirección en el póster y abrir la aplicación de navegación para navegar.
La mejora de las capacidades de procesamiento de imágenes de los teléfonos móviles de la serie Google Pixel 8 también es sorprendente.
Con la IA generativa, el Magic Editor de Google Fotos puede usar una foto ya tomada, seleccionar manualmente otra expresión de otras fotos y generar una nueva foto, con "los ojos de todos abiertos".
** La mejora de la experiencia de la función del teléfono móvil del modelo grande de IA es obvia y puede satisfacer las necesidades de los usuarios, o estimulará a una gran cantidad de usuarios que tienen la intención de intentar el cambio temprano, rompiendo el dilema de la involución homogénea de la innovación débil en la industria de la telefonía móvil. **
Según el último informe publicado por el instituto de investigación de mercado Canalys, en el segundo trimestre de 2023, el mercado de teléfonos inteligentes de China envió alrededor de 64,3 millones de unidades, un 5% menos que en el mismo período del año pasado; El mercado mundial de teléfonos inteligentes también carece de impulso, con una caída interanual del 10% en los envíos en el segundo trimestre de este año.
** Si los teléfonos móviles con IA pueden mejorar en gran medida la experiencia, los mercados de telefonía móvil nacionales y extranjeros se activarán o volverán a ser posibles. **
Huatai Securities escribió en su artículo "¿Impulsará la IA una nueva ronda de marea de reemplazo?" La investigación especial señaló que con el advenimiento de la era de los modelos grandes de IA, se espera que la IA se convierta en un factor importante que impulse la próxima ronda de marea de reemplazo, se espera que el primer lote de "teléfonos móviles con IA" se lance en la segunda mitad de 2023, en la actualidad, los teléfonos móviles con IA aplican principalmente la tecnología NLP (procesamiento del lenguaje natural) y CV (visión por computadora), y se espera que las aplicaciones de IA más innovadoras aterricen en los teléfonos móviles en 2024-2025.
En la reunión de resultados del segundo trimestre de 2023, MediaTek también expresó una opinión similar, creyendo que "los teléfonos móviles de aterrizaje de IA acelerarán el ciclo de reemplazo".
En segundo lugar, ** modelo grande de "acaparamiento de playa", el progreso de los fabricantes es diferente **
** De hecho, la industria de la telefonía móvil está compitiendo por el gran modelo de IA, no solo siguiendo el punto caliente, los fabricantes principales han estado diseñando IA durante algún tiempo, y está progresando paso a paso, más desde el nivel de mejora funcional en la etapa inicial, y ahora está penetrando gradualmente en el nivel del sistema. **
Aunque Huawei no anunció que conectaría el modelo grande al sistema de telefonía móvil hasta el lanzamiento del sistema Hongmeng 4 en agosto de este año, el modelo grande Pangu ha comenzado la investigación y el desarrollo ya en septiembre de 2020, y se ha iterado a la versión 3.0 y se ha comercializado.
También es uno de los primeros en presentar el modelo grande de IA OPPO.
Desde 2020, el equipo de asistentes de OPPO Xiaobu ha estado explorando y aplicando grandes modelos de lenguaje.
Ya antes del lanzamiento de su gran proyecto de modelo AndesGPT, OPPO ha lanzado una gran cantidad de inversión en IA, ha desarrollado y explorado modelos de lenguaje preentrenados y ha desarrollado de forma independiente OBERT, un gran modelo que ocupó el quinto lugar en la lista general del punto de referencia de evaluación de la comprensión del idioma chino CLUE1.1, la pregunta y respuesta de gráfico de conocimiento a gran escala KgCLUE1.0 y ocupó el primer lugar en el ranking.
Aunque el tiempo para que vivo desarrolle modelos grandes de IA aún no está disponible, se puede ver en el establecimiento del Instituto de Investigación Global de IA en 2018 y la presentación de modelos grandes de 7 mil millones de parámetros vivo_Agent_LM_7B en el sitio web de evaluación autorizada en agosto de este año, y el tiempo de investigación y desarrollo en campos relacionados no será corto.
Xiaomi no es demasiado tarde, ya que en julio de 2016 ha presentado la IA, y en abril de este año, estableció oficialmente un gran equipo de modelos de laboratorio de IA.
Como dijo Luan Jian, jefe del gran equipo de modelos del Laboratorio de IA del Comité Técnico de Xiaomi, "La combinación de teléfonos móviles e IA ha existido durante mucho tiempo, como el ajuste de fotos en la foto: enfoque rápido, súper resolución, etc." Ahora, agregar modelos grandes a los teléfonos móviles es una actualización, que mejora la interacción con el lenguaje natural, incluidas las capacidades de procesamiento de textos, las capacidades de procesamiento multimodal, etc. "
** La razón por la que los fabricantes nacionales de teléfonos móviles tienen prisa por llevar sus modelos de IA al frente del escenario en los últimos tres o cuatro meses, e incluso integrarlos en los teléfonos móviles, o quieren aprovechar preventivamente el período de ventana de la ola de reemplazo que pueden traer los teléfonos móviles de IA. **
De acuerdo con el contenido antes mencionado, además de la gloria del progreso de los modelos grandes de desarrollo propio, la mayoría de los gigantes nacionales de la telefonía móvil básicamente han elegido modelos grandes de IA de desarrollo propio, pero debido a sus respectivas condiciones y hora de inicio, el progreso de aterrizaje no es el mismo.
Huawei, que ha construido su propio ecosistema, es actualmente el primer fabricante nacional de teléfonos móviles en poner un gran modelo de IA de teléfono móvil en una nueva máquina.
El segundo es OPPO y Xiaomi. Aunque los dos no han lanzado oficialmente un nuevo modelo con un modelo grande de IA incorporado, han comenzado las pruebas públicas e internas de sus nuevos asistentes móviles con modelos grandes de IA incorporados, tomando medidas para integrar modelos grandes de IA y sistemas de telefonía móvil.
OPPO es más reflexivo en su conjunto y hace un buen trabajo al encontrarse con los fabricantes de antemano. Mientras entrena de forma independiente modelos de lenguaje grande de AndesGPT, OPPO también coopera con MediaTek, con la esperanza de tomar prestada su tecnología de cuantificación de 4 bits para lograr un mejor rendimiento en el lado inferior sin perder precisión, y promover el aterrizaje ligero de AndesGPT en el lado final lo antes posible.
Aunque el modelo grande de desarrollo propio de Vivio ha sido incluido en el ranking autorizado, hasta ahora no ha habido un comportamiento de aterrizaje específico.
Se rumorea que vivio lanzará un nuevo sistema OriginOS 4.0 con modelos de IA incorporados alrededor de octubre de este año, y si se lanza una nueva máquina con un nuevo sistema con modelos de IA incorporados en ese momento, se espera que vivo se convierta en el segundo fabricante nacional de teléfonos móviles después de Huawei en aterrizar modelos grandes de IA en nuevas máquinas.
A diferencia del software y el hardware autónomos de Huawei, mientras que otros fabricantes de teléfonos móviles desarrollan sus propios modelos grandes, es inevitable cooperar con los fabricantes de hardware ascendentes en el futuro para promover mejor el aterrizaje de los grandes modelos de IA de desarrollo propio en los teléfonos móviles con la ayuda de sus chips y tecnologías livianas, con más variables.
Hasta cierto punto, ¿quién puede entrar más rápido con los fabricantes de hardware y acelerar el aterrizaje ligero de los modelos grandes de desarrollo propio, quién puede aprovechar la oportunidad más rápido?
En tercer lugar, **Gran modelo de desarrollo propio: ¿se moverá eventualmente hacia la integración de dispositivos y nubes? **
Surge otra pregunta: en la actualidad, la "guerra de los 100 modelos" del mercado está caliente, ¿por qué los fabricantes de teléfonos móviles no adoptan la doctrina y llaman directamente a la interfaz de código abierto del modelo grande de la nube madura, y tienen que desarrollar personalmente el modelo grande del lado final?
**La razón se puede resumir en dos palabras clave: mal cinturón y no moverse. **
Por un lado, la aplicación específica de grandes modelos desplegados en la nube como ChatGPT siempre ha ido acompañada de fuertes disputas de privacidad y seguridad.
** La implementación localizada del modelo grande de IA de teléfonos móviles, los datos no saldrán del lado final y la privacidad y seguridad de los datos del usuario están más garantizadas. **
Debido a que la cantidad de parámetros es relativamente liviana, la velocidad de carga y funcionamiento de los modelos de teléfonos móviles grandes será más rápida y no está limitada por el entorno de red.
** Además, el diseño de modelo grande y liviano en el teléfono móvil tiene un ciclo de capacitación corto, se puede actualizar rápidamente de forma iterativa de acuerdo con las necesidades del usuario y es más flexible para responder a las necesidades del usuario. **
Huatai Securities también afirmó en el informe de investigación antes mencionado que, a diferencia de los requisitos de alto rendimiento informático del enlace de entrenamiento, el enlace de inferencia utiliza principalmente el modelo entrenado para realizar predicciones de inferencia basadas en las necesidades del usuario, y tiene requisitos más bajos para el rendimiento informático máximo, y presta más atención a indicadores integrales como el consumo de energía unitaria, la potencia informática, el retraso y el costo.
Dado que la potencia de computación en la nube y los dispositivos terminales deben transmitirse a través de canales de red, solo la potencia de computación de inferencia se distribuye en la nube, que está limitada por el ancho de banda de la red y la distancia de transmisión, y no puede cumplir con los requisitos de baja latencia y alta confiabilidad en algunos escenarios.
Por otro lado, para el modelo en la nube, con el aumento de los requisitos de acceso y la frecuencia de uso, el consumo de potencia de computación en la nube, ancho de banda de red, almacenamiento, hardware y otros recursos se vuelve más pesado.
Si los fabricantes de teléfonos móviles ponen la fuerza motriz de la revolución del rendimiento de los teléfonos móviles en estos modelos "voluminosos" de la nube, la experiencia de rendimiento del teléfono móvil es fácilmente inestable e incluso arrastrada al atolladero.
Para el problema de los modelos grandes de extremo de desarrollo propio, Luan Jian, jefe del equipo de modelos grandes del Laboratorio de IA del Comité Técnico de Xiaomi, respondió en una entrevista con Tencent Technology, lo que nos permite ver sus consideraciones desde la perspectiva de los fabricantes de teléfonos móviles.
Con respecto a la autoinvestigación, Luan Jian cree que ** en varios terminales de dispositivos, los chips utilizados no son los mismos y serán diferentes en tamaño de memoria, potencia de cálculo y subconjunto de cómputo compatible con la plataforma. Esto requiere que el modelo se ajuste dinámicamente a las condiciones del hardware para lograr un rendimiento óptimo. **
** Un modelo de código abierto, por otro lado, es estructuralmente fijo, ya no se puede ajustar y su uso es muy limitado. Si quieres tener la capacidad de personalizar la estructura del modelo y entrenarlo desde cero, debes desarrollarlo tú mismo. **
Esto también explica por qué los fabricantes de teléfonos móviles tienen que desarrollar modelos grandes, por un lado, y por otro, tienen que reforzar el encuentro con los fabricantes de hardware.
Luan Jian también señaló que el modelo grande en el lado final puede proteger mejor la privacidad del usuario y permitir que los usuarios obtengan más funciones a un costo menor, pero esto no significa que todos los problemas se puedan resolver con teléfonos móviles.
Aunque los fabricantes de hardware como Qualcomm y MediaTek pueden garantizar que la eficiencia energética y el rendimiento de los teléfonos móviles mejoren, mientras que los modelos ligeros de gran tamaño aterrizan; Pero es innegable que no importa cuán comprimido esté el modelo grande de IA, el volumen de los parámetros está ahí, y los requisitos para el hardware y el rendimiento de los teléfonos móviles solo serán cada vez más altos.
El mencionado informe de investigación de Huatai Securities también señaló que la gran cantidad de cálculos de modelos de IA planteará mayores requisitos para el ancho de banda del bus; La ejecución constante de tareas de inferencia acelerará el consumo de energía del dispositivo, extraerá la capacidad de la batería y los requisitos de actualización del chip de administración de energía correspondientes.
A medida que las predicciones de los grandes modelos se vuelvan cada vez más precisas, estos problemas se volverán cada vez más obvios, o impulsarán la actualización de las cadenas industriales ascendentes y descendentes.
Entonces, además de optimizar continuamente las tecnologías cuantitativas y mejorar la configuración de los teléfonos móviles, ¿qué otras soluciones tienen los fabricantes de teléfonos móviles para hacer frente de manera efectiva a los requisitos más altos que trae la evolución de los modelos grandes en el lado final?
**En este sentido, el concepto de "integración dispositivo-nube" propuesto por Xiaomi puede ser una opción realista, es decir, algunas capacidades o funciones de los futuros teléfonos móviles de IA, que pueden resolverse mediante el modelo del lado del dispositivo, se resolverán en el lado final; Si el lado final no puede resolver el problema, se llama a la funcionalidad de nube. **Esto no solo garantiza la seguridad de la privacidad y una comprensión precisa y una respuesta flexible a las necesidades del usuario, sino que también garantiza operaciones más complejas y avanzadas y optimiza la experiencia del usuario.
Qualcomm también propuso ideas similares a Xiaomi.
En el libro blanco técnico "La IA híbrida es el futuro de la IA", Qualcomm señaló que ** Con el desarrollo sin precedentes de la IA generativa y la creciente demanda de computación, el procesamiento de la IA debe llevarse a cabo por separado en la nube y en la terminal para lograr la escala de la IA y alcanzar su máximo potencial. **
Se entiende que, en respuesta a las necesidades de los consumidores en diferentes dispositivos y escenarios, el gran modelo detrás de Huawei Xiaoyi tiene la forma de extremo y nube. En la combinación de arte pequeño y modelos grandes, el modelo grande del lado final primero realizará una capa de preprocesamiento en las solicitudes del usuario y la información de contexto, y luego enviará los requisitos preprocesados al lado de la nube, para maximizar las ventajas del "modelo rápido del lado final" y el "modelo sólido del lado de la nube".
** La IA ha llegado, como el terminal inteligente más utilizado con la mayor adherencia del usuario, los teléfonos móviles pueden convertirse en el primer portador de la popularización de la explosión de la IA. **