Cloudflare $NET вважає, що попит на ЦПУ може зрости у 20 разів за допомогою агентів ШІ

$AMD $INTC $ARM
Компанія стверджує, що агенти ШІ можуть створити масштабну проблему з інфраструктурою ЦПУ/серверів, якщо кожен працівник запускатиме кілька агентів, використовуючи сучасну хмарну модель
Математика:
США:
⏩ 100М працівників з знаннями × 1 агент кожен ÷ ~10 агентів на ЦПУ = 10М ЦПУ
Світ:
⏩ 1Млрд працівників з знаннями × 10 агентів кожен ÷ ~10 агентів на ЦПУ = 1Млрд ЦПУ
Cloudflare порівнює це з поточним світовим виробництвом серверних ЦПУ, яке становить лише ~35М–45М на рік, що натякає на те, що поточний підхід може вимагати ~20 разів більше щорічного виробництва ЦПУ
$NET пропонує Agent Cloud як рішення
Ось як це працюватиме:
1. Динамічні працівники замість повних контейнерів
Агенти можна запускати за потребою і повертати у холодне сховище, коли вони неактивні, уникаючи одного важкого контейнера, що завжди працює, на кожного агента
2. Надійні об’єкти для стану
Агенти потребують пам’ять/стан для завдань, файлів, сесій, прогресу та вихідних даних інструментів. Надійні об’єкти надають кожному агенту/додатку об’єкт із станом із локальним сховищем на базі SQLite
3. Робочі процеси для довготривалих агентів
Агенти можуть працювати хвилинами, годинами або днями, очікуючи на затвердження, повторні спроби, зовнішні події або заплановані кроки. Динамічні робочі процеси дозволяють цим процесам переходити у сплячий режим між кроками, замість постійного споживання обчислювальних ресурсів
4. Проект Think / SDK для агентів
Проект Think додає агент-специфічні примітиви, такі як надійне виконання, відновлення після збоїв, контрольні точки, суб-агенти, постійні сесії та ізольоване виконання коду
5. Пісочниці лише тоді, коли потрібні повні комп’ютери
Для агентів, що займаються програмуванням, або завдань, що вимагають bash, git, файлові системи, браузери або довільні бінарні файли, Cloudflare все ще пропонує контейнері Sandbox. Але ідея полягає в тому, щоб використовувати їх лише за потреби, а не як стандартне середовище виконання для кожного агента