Cloudflare $NET percaya bahwa permintaan CPU bisa 20x lipat dengan agen AI

$AMD $INTC $ARM
Perusahaan berpendapat bahwa agen AI bisa menciptakan masalah infrastruktur CPU/server yang besar jika setiap pekerja menjalankan beberapa agen menggunakan model cloud saat ini
Matematikanya:
AS:
⏩ 100 juta pekerja pengetahuan × 1 agen setiap ÷ ~10 agen per CPU = 10 juta CPU
Global:
⏩ 1 miliar pekerja pengetahuan × 10 agen setiap ÷ ~10 agen per CPU = 1 miliar CPU
Cloudflare membandingkan ini dengan produksi CPU server global saat ini hanya sekitar ~35 juta–45 juta per tahun, yang menyiratkan pendekatan saat ini bisa membutuhkan sekitar 20x produksi CPU tahunan saat ini
$NET mengusulkan Agent Cloud sebagai solusi
Begini cara kerjanya:
1. Pekerja Dinamis alih-alih kontainer penuh
Agen dapat dijalankan sesuai permintaan dan dikembalikan ke penyimpanan dingin saat tidak aktif, menghindari satu kontainer berat yang selalu aktif per agen
2. Objek Tahan Lama untuk status
Agen membutuhkan memori/status untuk tugas, file, sesi, kemajuan, dan output alat. Objek Tahan Lama memberi setiap agen/aplikasi objek yang memiliki status dengan penyimpanan berbasis SQLite lokal
3. Alur Kerja untuk agen yang berjalan lama
Agen mungkin berjalan selama menit, jam, atau hari sambil menunggu persetujuan, percobaan ulang, peristiwa eksternal, atau langkah terjadwal. Alur Kerja Dinamis memungkinkan proses ini hibernasi di antara langkah-langkahnya alih-alih terus-menerus mengkonsumsi komputasi
4. Proyek Think / SDK Agen
Proyek Think menambahkan primitif khusus agen seperti eksekusi tahan lama, pemulihan crash, checkpointing, sub-agen, sesi permanen, dan eksekusi kode yang diisolasi
5. Kotak pasir hanya saat komputer penuh diperlukan
Untuk agen pengkodean atau tugas yang memerlukan bash, git, sistem file, browser, atau binari sembarang, Cloudflare tetap menawarkan kontainer Sandbox. Tapi ide utamanya adalah menggunakannya hanya saat diperlukan, bukan sebagai runtime default untuk setiap agen