Coinbase muda o modelo de IA padrão para modelos de código aberto como GLM5.2, Kimi2.7, e reduz custos de IA pela metade.

robot
Geração do resumo em andamento
Notícias da Mars Finance, 28 de junho: Brian Armstrong, CEO da Coinbase, revelou que a empresa reduziu os gastos com IA quase pela metade, mesmo com o uso de tokens continuando a crescer exponencialmente, ao alternar o modelo de IA padrão para modelos de código aberto como GLM 5.2 e Kimi 2.7, combinados com roteamento inteligente de modelos, otimização de cache e outras medidas. Brian Armstrong afirmou que a Coinbase não depende mais de limites de uso ou alertas de consumo para controlar custos, mas adota por padrão modelos de código aberto mais baratos, recorrendo a modelos de ponta com desempenho superior apenas quando necessário. Além disso, a empresa reduz ainda mais os custos de inferência por meio de roteamento automático de modelos, aumento da taxa de acerto de cache e simplificação do contexto. Vale notar que essa declaração ocorre em meio às recentes preocupações expressas publicamente pelo CEO da Anthropic sobre modelos de código aberto e destilação de modelos. A prática da Coinbase mostra que, em aplicações empresariais de IA, os modelos de código aberto estão se tornando uma escolha importante que equilibra custo e eficiência.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários