A Coinbase mudou o seu modelo de IA padrão para modelos de código aberto como GLM5.2, Kimi2.7, reduzindo para metade os custos de IA.

robot
Geração de resumo em curso
Notícias da Mars Finance, 28 de junho, o CEO da Coinbase, Brian Armstrong, revelou que a empresa, ao mudar o modelo de IA padrão para modelos de código aberto como GLM 5.2, Kimi 2.7, combinado com medidas como roteamento inteligente de modelos e otimização de cache, reduziu os gastos com IA em quase metade, apesar do crescimento exponencial contínuo no uso de tokens.
Brian Armstrong afirmou que a Coinbase deixou de depender de limites de uso ou lembretes de consumo para controlar custos, adotando por defeito modelos de código aberto de menor custo, recorrendo apenas a modelos de ponta com melhor desempenho em cenários necessários.
Ao mesmo tempo, a empresa reduziu ainda mais os custos de inferência através de roteamento automático de modelos, aumento da taxa de acerto de cache e simplificação de contexto.
Vale notar que esta declaração ocorre num momento em que o CEO da Anthropic tem expressado recentemente, em público, preocupações sobre modelos de código aberto e destilação de modelos. A prática da Coinbase mostra que, em aplicações de IA empresarial, os modelos de código aberto estão a tornar-se uma escolha importante que equilibra custo e eficiência.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado