La plupart des gens s’enthousiasment pour l’inference à KubeCon. À mon avis, les équipes de production doivent d’abord bien calculer l’allocation des GPU et de la mémoire, plutôt que de se lancer tous en même temps. Après toutes ces années, la gestion des positions compte toujours plus que le choix de la direction ; c’est pareil pour la puissance de calcul. Gardez cette analyse en mémoire, on reviendra la vérifier demain. Ceux qui suivent, restez attentifs.