Un análisis de Lilli de McKinsey: ¿qué ideas de desarrollo ofrece para el mercado de la inteligencia artificial empresarial?

El caso de Lilli de McKinsey proporciona ideas clave para el desarrollo del mercado de IA empresarial: Computación Edge + oportunidades de mercado potenciales de modelos pequeños. Este asistente de IA, que integra 100,000 documentos internos, no solo ha logrado una tasa de adopción del 70% entre los empleados, sino que se utiliza un promedio de 17 veces por semana, una adhesión de producto que es realmente rara en las herramientas empresariales. A continuación, compartiré mis reflexiones:

1）La seguridad de los datos empresariales es un punto crítico: los activos de conocimiento central acumulados por McKinsey durante 100 años, así como algunos datos específicos acumulados por pequeñas y medianas empresas, tienen una sensibilidad de datos muy alta y no deben ser procesados en la nube pública. La búsqueda de un estado de equilibrio en el que “los datos no salgan de la localidad y la capacidad de IA no se vea comprometida” es una necesidad del mercado real. Computación Edge es una dirección de exploración;

2. Los modelos pequeños y especializados reemplazarán a los grandes modelos generales: los usuarios empresariales no necesitan un modelo genérico “con cien mil millones de parámetros y todo en uno”, sino un asistente especializado que pueda responder con precisión a problemas de campos específicos. En comparación, hay una contradicción inherente entre la versatilidad de los grandes modelos y la profundidad de especialización, y en escenarios empresariales a menudo se valora más los modelos pequeños;

3）Equilibrio de costos de la infraestructura de IA autoconstruida y las llamadas a la API: aunque la combinación de Computación Edge y modelos pequeños implica una inversión inicial significativa, los costos operativos a largo plazo se reducen notablemente. Imagina que si 45000 empleados utilizan frecuentemente un gran modelo de IA a través de llamadas a la API, esta dependencia, el aumento en la escala de uso y la cantidad de comentarios harían que la construcción de una infraestructura de IA propia sea una opción razonable para empresas medianas y grandes;

4. Nuevas oportunidades en el mercado de hardware de borde: El entrenamiento de grandes modelos depende de GPU de alta gama, pero los requisitos de hardware para la inferencia en el borde son completamente diferentes. Los fabricantes de chips como Qualcomm y MediaTek están aprovechando las oportunidades del mercado con procesadores optimizados para AI en el borde. Cuando cada empresa quiere crear su propio “Lilli”, los chips de AI en el borde diseñados específicamente para bajo consumo y alta eficiencia se convertirán en una necesidad de infraestructura.

5）El mercado de IA web3 descentralizado también se fortalece: una vez que se active la demanda de potencia de cálculo, ajuste fino, algoritmos, etc., en pequeños modelos por parte de las empresas, cómo equilibrar la programación de recursos se convertirá en un problema. La programación de recursos centralizada tradicional será un desafío. Esto generará una gran demanda del mercado para la red de ajuste fino de pequeños modelos de web3AI, plataformas de servicios de potencia de cálculo descentralizadas, entre otros.

Cuando el mercado aún está discutiendo los límites de la capacidad general de la AGI, es aún más agradable ver que muchos usuarios empresariales ya están explorando el valor práctico de la IA. Es evidente que, en comparación con el avance monopolístico de recursos que se centraba en la competencia de potencia de cálculo y algoritmos en el pasado, cuando el mercado se enfoca en la Computación Edge + modelos pequeños, esto traerá una mayor vitalidad al mercado.