Moor Threads Co-fundador Wang Dong: O mercado de inferência não tem “chip universal”, mas sim uma combinação de soluções

O Odaily Planet Daily informa que Wang Dong, cofundador e CEO executivo da fabricante de GPUs Moore Threads, disse: “O desenvolvimento dos grandes modelos está a avançar muito rapidamente tanto na China como no estrangeiro. Agora, os principais fabricantes concluem uma iteração de versões do modelo base de ponta, em média, a cada dois meses. Quanto aos custos de utilização dos modelos, verificámos que os modelos base de ponta na China apresentam uma clara vantagem de custo em relação a modelos com nível de inteligência equivalente do estrangeiro; a relação custo-eficácia dos modelos chineses é superior. Isto também demonstra que, no contexto de capacidade de computação limitada, as empresas de modelos têm feito muito trabalho no que respeita a melhorar a eficiência do modelo, a eficiência em termos de preço e os custos de treino.

Wang Dong apontou que o mercado de inferência não tem ‘um chip universal’, mas sim uma combinação de ‘soluções’. ‘A barreira de entrada para aplicações tecnológicas no mercado de inferência é relativamente baixa, e os cenários são altamente fragmentados, pelo que não existe nenhuma empresa capaz de monopolizar todos os cenários de aplicação específicos. Não existe hardware único absolutamente perfeito. Através da coordenação flexível entre software e hardware, cada modelo consegue encontrar a combinação de hardware mais adequada para si, atingindo o melhor equilíbrio entre custo e desempenho. O mercado vai ver a proliferação de empresas ISP, para que os fornecedores de MaaS ou clientes finais disponham de serviços de inferência mais económicos, com mais flexibilidade e personalização.’”