Les opérations de réduction des coûts et d'augmentation de l'efficacité d'Armstrong sont vraiment impressionnantes : le taux de succès du cache est passé de 5 % à 60 %, les dépenses en IA ont été réduites de moitié, et le Token continue d'augmenter. Cela mérite d'être étudié.

Armstrong partage les pratiques de réduction des coûts et d'augmentation de l'efficacité dans un contexte de forte augmentation de l'utilisation des tokens : sans limites, en optimisant le modèle par défaut, le routage intelligent et la stratégie de cache pour contrôler les coûts. Utilisation de modèles à poids ouverts comme GLM 5.2, Kimi 2.7 pour remplacer les modèles génériques coûteux, routage par tâche, prétraitement du cache et gestion des sessions pour réduire le gaspillage de tokens, le taux de réussite passant de 5 % à 60 %. Résultat : les dépenses en IA ont presque diminué de moitié, tandis que l'utilisation des tokens continue de croître.