El cofundador de Moore Threads, Wang Dong: en el mercado de inferencia no existe un “chip universal”, sino una combinación de soluciones

Odaily 星球日报 informa: el cofundador y director ejecutivo de la empresa de fabricantes de GPU Moore Threads, Wang Dong, dijo: “El desarrollo de los grandes modelos tanto en el país como en el extranjero avanza a un ritmo muy rápido. Ahora, los principales fabricantes completan, en promedio, una iteración de versión de modelos base de vanguardia cada dos meses; y en cuanto a los costos de uso de los modelos, descubrimos que los modelos base de vanguardia en China tienen una ventaja de costos evidente frente a modelos del mismo nivel de inteligencia en el extranjero. Esto demuestra que las empresas de modelos, bajo recursos informáticos limitados, han realizado un gran trabajo en cómo mejorar la eficiencia del modelo, la eficiencia de precios y los costos de entrenamiento”.

Wang Dong señaló que el mercado de inferencia no tiene “un chip universal”, sino una combinación de “soluciones”. “Los umbrales técnicos para las aplicaciones del mercado de inferencia son relativamente bajos y los escenarios están altamente fragmentados; no existe ninguna empresa que pueda monopolizar todos los escenarios de aplicaciones de cada nicho. No hay un único hardware absolutamente perfecto: mediante una coordinación flexible entre software y hardware, cada modelo puede encontrar la combinación de hardware más adecuada para lograr el mejor equilibrio entre costo y rendimiento. En el mercado surgirán muchas empresas ISP, para que los proveedores de MaaS o los clientes finales ofrezcan servicios de inferencia más rentables, más flexibles y con personalización a medida”.