Co-fundador da Moore Threads, Wang Dong: o mercado de inferência não tem “chip universal”, mas sim uma combinação de soluções

Odaily星球日报 informa que o cofundador e CEO-executivo da fabricante de GPUs, Moore Threads, Wang Dong disse: “O desenvolvimento de grandes modelos ocorre com muita rapidez tanto na China quanto no exterior. Atualmente, os principais fornecedores em média concluem uma iteração de versões de modelos básicos de ponta a cada dois meses. Quanto ao custo de uso dos modelos, descobrimos que os modelos básicos de ponta chineses têm uma vantagem de custo evidente em relação a modelos com nível de inteligência equivalente no exterior, o que torna a relação custo-benefício dos modelos chineses ainda melhor. Isso também mostra que, sob capacidade computacional limitada, as empresas de modelos têm feito um trabalho muito grande para melhorar a eficiência do modelo, a eficiência de preços e os custos de treinamento.”

Wang Dong destacou que o mercado de inferência não tem “um chip universal”, e sim uma combinação de “soluções”. “O mercado de inferência tem uma barreira técnica de aplicação relativamente mais baixa e os cenários são altamente fragmentados, de modo que não existe nenhuma empresa que consiga monopolizar todos os cenários de aplicações específicas. Não há um hardware único absolutamente perfeito. Por meio de uma cooperação flexível entre software e hardware, cada modelo pode encontrar a combinação de hardware mais adequada para ele, alcançando o melhor equilíbrio entre custo e desempenho. O mercado verá o surgimento de muitas empresas de ISP, oferecendo aos provedores de MaaS ou aos clientes finais serviços de inferência mais custo-benefício e mais flexíveis para personalização.”