Uno de los mayores cambios en la IA ha sido pasar de entrenar chips de IA a chips optimizados para inferencia, y por una BUENA razón:


la inferencia es donde se gana el dinero (y la inteligencia)
> se rumorea que Anthropic obtiene márgenes de ingresos del 80% en inferencia. Serán rentables antes que cualquier otro laboratorio de IA.
> Apple, Meta, OpenAI y Google están fabricando sus propios chips de IA personalizados para inferencia.
> los laboratorios de modelos chinos (a pesar de la desventaja de hardware) construyen inteligencia de frontera únicamente obligando al modelo a pensar más tiempo.
el punto es: la inferencia va a superar a cualquier otro servicio de IA por un margen enorme.
META6,01%
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado