Coinbase passe son modèle d'IA par défaut à des modèles open source comme GLM5.2, Kimi2.7, et réduit de moitié les coûts d'IA.

robot
Création du résumé en cours
Nouvelles de Mars Finance, le 28 juin, le PDG de Coinbase, Brian Armstrong, a révélé qu'en basculant le modèle d'IA par défaut vers des modèles open source comme GLM 5.2, Kimi 2.7, et en combinant des mesures telles que le routage intelligent des modèles et l'optimisation du cache, l'entreprise a réduit ses dépenses en IA de près de moitié, malgré une croissance exponentielle continue de l'utilisation des tokens.
Brian Armstrong a indiqué que Coinbase ne dépend plus de la limitation des quotas d'utilisation ou des alertes de consommation pour contrôler les coûts, mais adopte par défaut des modèles open source moins chers, en n'utilisant des modèles de pointe plus performants que lorsque cela est nécessaire. Parallèlement, l'entreprise réduit davantage les coûts d'inférence en automatisant le routage des modèles, en améliorant le taux de réussite du cache et en simplifiant le contexte.
Il est à noter que cette déclaration intervient alors que le PDG d'Anthropic a récemment exprimé à plusieurs reprises ses préoccupations concernant les modèles open source et la distillation de modèles. La pratique de Coinbase montre que, dans les applications d'IA d'entreprise, les modèles open source deviennent un choix important pour concilier coût et efficacité.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire