Coinbase cambiará el modelo de IA predeterminado a modelos de código abierto como GLM5.2, Kimi2.7, etc., reduciendo a la mitad el costo de IA.

robot
Generación de resúmenes en curso

火星财经消息,6 月 28 日,Coinbase CEO Brian Armstrong 披露,公司通过将默认 AI 模型切换至 GLM 5.2、Kimi 2.7 等开源模型,并结合智能模型路由、缓存优化等措施,在 Token 使用量持续指数级增长的情况下,将 AI 支出削减了近一半。 Brian Armstrong 表示,Coinbase 不再依赖限制使用额度或消费提醒来控制成本,而是默认采用成本更低的开源模型,仅在必要场景调用性能更强的前沿模型。同时,公司通过自动模型路由、提升缓存命中率以及精简上下文等方式进一步降低推理成本。 值得注意的是,这一表态正值 Anthropic CEO 近期多次公开表达对开源模型及模型蒸馏的担忧之际。Coinbase 的实践显示,在企业级 AI 应用中,开源模型正成为兼顾成本与效率的重要选择。

Noticias de Mars Finance, 28 de junio: El CEO de Coinbase, Brian Armstrong, reveló que la empresa ha reducido casi a la mitad sus gastos en IA al cambiar los modelos de IA predeterminados a modelos de código abierto como GLM 5.2 y Kimi 2.7, combinados con medidas como enrutamiento inteligente de modelos y optimización de caché, a pesar de un crecimiento exponencial continuo en el uso de tokens. Brian Armstrong dijo que Coinbase ya no depende de límites de uso o recordatorios de gasto para controlar costos, sino que adopta por defecto modelos de código abierto de menor costo, invocando modelos de frontera más potentes solo cuando es necesario. Al mismo tiempo, la empresa reduce aún más los costos de inferencia mediante el enrutamiento automático de modelos, la mejora de la tasa de aciertos de caché y la simplificación del contexto. Cabe destacar que esta declaración se produce en un momento en que el CEO de Anthropic ha expresado recientemente en repetidas ocasiones su preocupación por los modelos de código abierto y la destilación de modelos. La práctica de Coinbase muestra que, en aplicaciones de IA empresarial, los modelos de código abierto se están convirtiendo en una opción importante que equilibra costo y eficiencia.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios