Los chips de integración fotónica y electrónica podrían reducir el costo de los tokens en un 50%; los clústeres de cómputo nacionales podrían ser la clave para recortar costos.

robot
Generación de resúmenes en curso
金色财经报道,19 de julio, actualmente, a medida que los agentes de IA inteligentes se aplican en profundidad en diversas industrias, el volumen de llamadas de tokens ha mantenido una tendencia de crecimiento acelerado. En el futuro, cómo lograr que los costos de cómputo disminuyan aún más se ha convertido en el foco de trabajo de todas las partes. Informan actores de la industria que están coordinando el uso de múltiples modelos grandes principales a través de plataformas de cómputo, reduciendo de forma integral el costo de los tokens. Además, también están acelerando en todo el país la construcción de clústeres de cómputo a gran escala. Asimismo, los clústeres de cómputo de ultra gran escala respaldados por chips de cómputo nacionales se consideran en la industria como la clave para reducir costos en la siguiente etapa. Además, dentro de los próximos 3 a 5 años, el despliegue de nuevas tecnologías más avanzadas, como chips fotónicos, también podría convertirse en otra línea de exploración para reducir los costos de cómputo. “En comparación con los chips electrónicos, los chips de fusión óptico-electrónica tienen como núcleo una latencia de cómputo más baja y también un consumo de energía más bajo. El costo por cada token disminuirá en consecuencia un 50%, e incluso más.”(Jin10)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado