Cloudflare $NET 相信 AI 代理可能使 CPU 需求增加 20 倍


$AMD $INTC $ARM
該公司認為,如果每個工作人員都運行多個代理,使用當前的雲端模型,AI 代理可能會造成巨大的 CPU/伺服器基礎設施問題
數學計算:
美國:
⏩ 1 億知識工作者 × 1 代理 / 每 CPU 約 10 代理 = 1000 萬 CPU
全球:
⏩ 10 億知識工作者 × 10 代理 / 每 CPU 約 10 代理 = 10 億 CPU
Cloudflare 將此與目前全球每年約 3500 萬至 4500 萬的伺服器 CPU 生產量相比,暗示目前的方法可能需要約 20 倍的年度 CPU 產量
$NET 正在推廣 Agent Cloud 作為解決方案
它的運作方式如下:
1. 動態工作者取代完整容器
代理可以按需啟動,閒置時放回冷存儲,避免每個代理都運行一個繁重的常駐容器
2. 用於狀態的持久對象
代理需要記憶體/狀態來處理任務、文件、會話、進度和工具輸出。持久對象為每個代理/應用提供一個具有本地 SQLite 支持存儲的有狀態對象
3. 用於長時間運行代理的工作流程
代理可能會運行數分鐘、數小時或數天,等待批准、重試、外部事件或排程步驟。動態工作流程允許這些過程在步驟之間休眠,而不是持續消耗計算資源
4. Project Think / 代理 SDK
Project Think 添加了代理專用的原語,如持久執行、崩潰恢復、檢查點、子代理、持久會話和沙箱代碼執行
5. 只有在需要完整電腦時才使用沙箱
對於需要 bash、git、文件系統、瀏覽器或任意二進制文件的編碼代理或任務,Cloudflare 仍提供沙箱容器。但其理念是僅在必要時使用,而非作為每個代理的預設運行環境
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆