吴说获悉,Coinbase CEO Brian Armstrong 发文表示,公司通过优化基础设施,已将企业 AI 支出削减了近一半,同时 AI 代币使用量仍在指数级增长。其核心降本措施包括:将 GLM 5.2 和 Kimi 2.7 等开源模型作为内部 LLM 网关的默认选项,通过智能路由为任务匹配最具性价比的模型将 LibreChat 等工具的缓存命中率从 5% 大幅提升至 60% 。Armstrong 强调,管理 AI 成本的目标不是限制使用,而是通过减少浪费让指数级增长变得可持续。



Traducción al español:

Wu Shu se enteró de que el CEO de Coinbase, Brian Armstrong, publicó un mensaje indicando que la empresa, mediante la optimización de su infraestructura, ha reducido casi a la mitad los gastos en IA empresarial, mientras que el uso de tokens de IA sigue creciendo de manera exponencial. Las medidas clave de reducción de costos incluyen: adoptar modelos de código abierto como GLM 5.2 y Kimi 2.7 como opciones predeterminadas para la puerta de enlace interna de LLM, y mediante enrutamiento inteligente, asignar a las tareas el modelo con mejor relación costo-beneficio, aumentando significativamente la tasa de aciertos de caché de herramientas como LibreChat del 5% al 60%. Armstrong destacó que el objetivo de gestionar los costos de IA no es limitar su uso, sino hacer que el crecimiento exponencial sea sostenible mediante la reducción del desperdicio.
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios