Les cinq astuces d'optimisation des coûts IA de Coinbase : modèles, routage, mise en cache, contexte, visualisation — tirer la valeur de chaque centime de Token, c'est ainsi que devrait être la mise à l'échelle.

Le PDG de Coinbase, Brian Armstrong, a déclaré sur X qu'il maintiendrait les dépenses en IA stables tout en voyant une croissance exponentielle de l'utilisation des jetons, et qu'il réduirait les coûts et augmenterait l'efficacité grâce à cinq mesures : meilleur modèle par défaut, routage intelligent, optimisation du cache, contexte simplifié et transparence visuelle. Les pratiques préliminaires montrent qu'avec la croissance des jetons, les dépenses globales en IA ont déjà presque diminué de moitié, l'objectif étant de construire une infrastructure soutenant une croissance exponentielle.