Cloudflare $NET tin rằng nhu cầu CPU có thể tăng gấp 20 lần với các tác nhân AI

$AMD $INTC $ARM
Công ty lập luận rằng các tác nhân AI có thể tạo ra một vấn đề lớn về hạ tầng CPU/máy chủ nếu mỗi công nhân chạy nhiều tác nhân sử dụng mô hình đám mây ngày nay
Phép tính:
Mỹ:
⏩ 100 triệu công nhân kiến thức × 1 tác nhân mỗi người ÷ khoảng 10 tác nhân mỗi CPU = 10 triệu CPU
Toàn cầu:
⏩ 1 tỷ công nhân kiến thức × 10 tác nhân mỗi người ÷ khoảng 10 tác nhân mỗi CPU = 1 tỷ CPU
Cloudflare so sánh điều này với sản xuất CPU máy chủ toàn cầu hiện tại chỉ khoảng 35 triệu–45 triệu mỗi năm, ngụ ý rằng phương pháp hiện tại có thể yêu cầu khoảng 20 lần sản xuất CPU hàng năm hiện tại
$NET đang giới thiệu Agent Cloud như một giải pháp
Cách hoạt động của nó như sau:
1. Công nhân động thay vì container đầy đủ
Các tác nhân có thể được khởi động theo yêu cầu và đưa trở lại lưu trữ lạnh khi không hoạt động, tránh việc phải chạy một container nặng luôn luôn bật cho mỗi tác nhân
2. Đối tượng bền vững cho trạng thái
Các tác nhân cần bộ nhớ/trạng thái cho nhiệm vụ, tệp, phiên, tiến trình và đầu ra công cụ. Đối tượng bền vững cung cấp cho mỗi tác nhân/ứng dụng một đối tượng có trạng thái với bộ lưu trữ dựa trên SQLite cục bộ
3. Quy trình làm việc cho các tác nhân chạy lâu
Các tác nhân có thể chạy trong vài phút, giờ hoặc ngày trong khi chờ phê duyệt, thử lại, sự kiện bên ngoài hoặc các bước đã lên lịch. Quy trình làm việc động cho phép các quá trình này ngủ đông giữa các bước thay vì liên tục tiêu thụ tính toán
4. Dự án Think / SDK tác nhân
Dự án Think thêm các nguyên thủy đặc thù cho tác nhân như thực thi bền vững, khôi phục sau sự cố, checkpoint, tác nhân phụ, phiên liên tục và thực thi mã trong sandbox
5. Sandbox chỉ khi cần máy tính đầy đủ
Đối với các tác nhân lập trình hoặc nhiệm vụ yêu cầu bash, git, hệ thống tệp, trình duyệt hoặc nhị phân tùy ý, Cloudflare vẫn cung cấp container Sandbox. Nhưng ý tưởng là chỉ sử dụng chúng khi cần thiết, không phải như môi trường chạy mặc định cho mọi tác nhân