Uma análise do Lilli da McKinsey: quais são as direções de desenvolvimento que oferece para o mercado de IA empresarial?

O caso Lilli da McKinsey fornece uma visão crítica sobre o desenvolvimento do mercado de IA empresarial: Computação de borda + oportunidades de mercado potenciais para modelos pequenos. Este assistente de IA, que integra 100.000 documentos internos, não apenas alcançou uma taxa de adoção de 70% entre os funcionários, mas também é utilizado em média 17 vezes por semana, uma adesão raramente vista em ferramentas empresariais. A seguir, compartilho meus pensamentos:

1. A segurança dos dados empresariais é um ponto crítico: os ativos de conhecimento central acumulados ao longo de 100 anos pela McKinsey, bem como alguns dados específicos acumulados por pequenas e médias empresas, têm uma forte sensibilidade à dados e não podem ser tratados em nuvens públicas. A forma de explorar um estado de equilíbrio onde “os dados não saem do local, mas a capacidade de IA não é comprometida” é uma necessidade real do mercado. A Computação de borda é uma direção de exploração;

2. Modelos pequenos e especializados substituirão modelos grandes e genéricos: os usuários empresariais não precisam de um modelo genérico “com bilhões de parâmetros e multifuncional”, mas sim de um assistente especializado que possa responder com precisão a questões de campos específicos. Em comparação, existe uma contradição natural entre a versatilidade de um grande modelo e a profundidade especializada, e em cenários empresariais, modelos pequenos costumam ser mais valorizados;

3. Equilíbrio de custos da infraestrutura de IA própria e chamadas de API: embora a combinação de computação de borda e pequenos modelos exija um investimento inicial considerável, os custos operacionais a longo prazo são significativamente reduzidos. Imagine se os grandes modelos de IA, usados com alta frequência por 45000 funcionários, vierem de chamadas de API; essa dependência, o aumento da escala de uso e comentários tornarão a construção de uma infraestrutura de IA própria uma escolha racional para empresas de médio e grande porte.

4）Novas oportunidades no mercado de hardware de borda: o treinamento de grandes modelos depende de GPUs de alta gama, mas os requisitos de hardware para inferência de borda são completamente diferentes. Fabricantes de chips como Qualcomm e MediaTek estão aproveitando esta oportunidade de mercado com processadores otimizados para IA de borda. Quando cada empresa deseja criar seu próprio “Lilli”, os chips de IA de borda projetados para baixo consumo de energia e alta eficiência se tornarão uma necessidade de infraestrutura;

5）O mercado de IA web3 descentralizado também está em expansão: assim que as necessidades de poder de cálculo, ajuste fino, algoritmos, etc., em pequenos modelos forem impulsionadas pelas empresas, como equilibrar o agendamento de recursos se tornará um problema. O agendamento de recursos centralizado tradicional se tornará um desafio, o que trará uma grande demanda de mercado diretamente para redes de ajuste fino de pequenos modelos de web3AI, plataformas de serviços de poder de cálculo descentralizadas, entre outros.

Quando o mercado ainda discute os limites de capacidade geral da AGI, é mais agradável ver que muitos usuários empresariais já estão explorando o valor prático da IA. É evidente que, em comparação com o avanço monopolista de recursos que competia em poder de processamento e algoritmos no passado, ao colocar o foco no modelo de Computação de borda + pequenos modelos, o mercado ganhará uma vitalidade maior.