El cofundador de Moore Threads, Wang Dong: en el mercado de la inferencia no existe un “chip万能” sino una combinación de soluciones

robot
Generación de resúmenes en curso
Jinse Finance informó el 18 de julio de que Wang Dong, cofundador y director ejecutivo del fabricante de GPU Moer Threads, dijo: “El desarrollo de los grandes modelos tanto en el país como en el extranjero avanza con mucha rapidez. Ahora, los principales fabricantes completan, en promedio, una iteración de versiones de modelos base de vanguardia cada dos meses. En cuanto al costo de uso de los modelos, hemos descubierto que los modelos base de vanguardia en China tienen una ventaja de costos claramente evidente frente a modelos con un nivel de inteligencia equivalente en el extranjero, lo que significa que la relación calidad-precio de los modelos chinos es mejor. Esto también demuestra que, en condiciones de recursos computacionales limitados, las empresas de modelos han hecho muchísimo trabajo para mejorar la eficiencia del modelo, la eficiencia de precios y los costos de entrenamiento”. Wang Dong señaló que el mercado de inferencia no tiene un “chip universal”, sino una combinación de “soluciones”: “El umbral tecnológico para las aplicaciones en el mercado de inferencia es relativamente bajo y los escenarios están altamente fragmentados. No existe ninguna empresa que pueda monopolizar todos los escenarios de aplicaciones específicas. No hay un único hardware absolutamente perfecto; mediante una coordinación flexible entre software y hardware, cada modelo puede encontrar la combinación de hardware más adecuada para él, logrando el mejor equilibrio entre costos y rendimiento. El mercado verá el surgimiento de numerosas empresas de ISP, para que los proveedores de MaaS o los clientes finales ofrezcan servicios de inferencia más rentables y flexibles con personalización”.
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado