Cloudflare $NET croit que la demande en CPU pourrait atteindre 20x avec des agents IA

$AMD $INTC $ARM
L'entreprise soutient que les agents IA pourraient créer un problème massif d'infrastructure CPU/serveur si chaque travailleur exécute plusieurs agents en utilisant le modèle cloud actuel
Les calculs :
États-Unis :
⏩ 100 millions de travailleurs du savoir × 1 agent chacun ÷ ~10 agents par CPU = 10 millions de CPU
Mondial :
⏩ 1 milliard de travailleurs du savoir × 10 agents chacun ÷ ~10 agents par CPU = 1 milliard de CPU
Cloudflare compare cela à la production mondiale actuelle de CPU serveur d'environ ~35M–45M par an, ce qui implique que l'approche actuelle pourrait nécessiter environ 20 fois la production annuelle actuelle de CPU
$NET propose Agent Cloud comme solution
Voici comment cela fonctionnerait :
1. Travailleurs dynamiques au lieu de conteneurs complets
Les agents peuvent être lancés à la demande et remis en stockage à froid lorsqu'ils sont inactifs, évitant un conteneur lourd toujours actif par agent
2. Objets durables pour l'état
Les agents ont besoin de mémoire/état pour les tâches, fichiers, sessions, progrès et sorties d'outils. Les Objets Durables donnent à chaque agent/application un objet avec stockage local basé sur SQLite
3. Flux de travail pour les agents de longue durée
Les agents peuvent fonctionner pendant des minutes, des heures ou des jours en attendant des approbations, des réessais, des événements externes ou des étapes programmées. Les flux de travail dynamiques permettent à ces processus de se mettre en veille entre les étapes au lieu de consommer constamment du calcul
4. Projet Think / SDK Agents
Le projet Think ajoute des primitives spécifiques aux agents comme l'exécution durable, la récupération après crash, la prise de points de contrôle, les sous-agents, les sessions persistantes et l'exécution de code sandboxée
5. Sandboxes uniquement lorsque des ordinateurs complets sont nécessaires
Pour les agents de codage ou les tâches nécessitant bash, git, systèmes de fichiers, navigateurs ou binaires arbitraires, Cloudflare propose toujours des conteneurs Sandbox. Mais l'idée est de ne les utiliser que lorsque c'est nécessaire, et non comme environnement d'exécution par défaut pour chaque agent