Meta та AWS підписали багатомільярдний хмарний контракт… Вклад у AI-агента «Graviton5»

Meta Platforms та Amazon Web Services(AWS) підписали багаторічний контракт на суму кількох мільярдів доларів. Основою контракту є самостійно розроблений CPU серії "Graviton" від AWS, Meta отримає хмарну інфраструктуру, необхідну для роботи масштабних AI-агентів.

Згідно з повідомленням Bloomberg, за цим контрактом Meta зможе отримати десятки мільйонів ядер Graviton, а також матиме право на додаткове збільшення кількості відповідно до майбутніх потреб. Meta планує використовувати ці ресурси для запуску "агентського AI". AI-агент означає форму штучного інтелекту, яка виходить за межі простих чат-ботів, може підключатися до зовнішніх додатків і автоматично виконувати завдання.

Особливості та продуктивність Graviton5

У цьому контракті найбільш обговорюваним чіпом є новий CPU "Graviton5", випущений AWS у грудні минулого року. Цей чіп виготовлений за 3-нанометровим процесом, має 192 ядра і базується на архітектурі інструкцій Arm Holdings. Архітектура інструкцій — це "мова", яка визначає спосіб виконання обчислень у напівпровідниках. Архітектура Arm має переваги у векторних і матричних обчисленнях, що вважається корисним для AI-завдань.

AWS заявляє, що продуктивність Graviton5 вища за попереднє покоління власних CPU до 25%. За цим стоїть масштабне розширення кешу L3. Кеш L3 — це пам’ять, розташована поруч із ядрами процесора, яка дозволяє прискорити обробку даних, скорочуючи відстань передачі. За словами AWS, кеш L3 у Graviton5 у 5 разів більший за попереднє покоління.

Роль CPU у інфраструктурі AI

CPU все ще відіграє важливу роль у серверах для AI. Хоча основні обчислення масштабних нейронних мереж здебільшого виконуються графічними процесорами(GPU), CPU відповідає за координацію цих GPU та виконання різних допоміжних завдань. Особливо враховуючи, що AI-агенти Meta часто потребують підключення до зовнішніх інструментів і сервісів, обробка на CPU є важливою. Цей контракт розглядається як сигнал, що Meta не обмежується GPU, а також удосконалює загальний дизайн AI-інфраструктури.

Graviton5 розроблений для роботи у тандемі з системою AWS "Nitro". Система Nitro — це архітектура, яка переносить частину управління інфраструктурою на окремі прискорювачі, дозволяючи CPU спрямовувати більше ресурсів на обробку клієнтських додатків. AWS також пояснює, що "ізоляційний двигун Nitro" може перевіряти, чи ізольовані робочі навантаження різних клієнтів. Це дизайн, який забезпечує безпеку та ефективність у багатокористувацькому середовищі.

Довгострокова стратегія AI Meta

Керівник інфраструктури Meta Сантош Джанаджан заявив: "AWS — наш довгостроковий надійний партнер у хмарних обчисленнях. Завдяки розширенню використання Graviton ми можемо запускати CPU-інтенсивні робочі навантаження AI з продуктивністю та ефективністю, що відповідає масштабам Meta."

Ця новина привертає увагу ще й тому, що це другий великий контракт на CPU, який Meta оголосила за останній місяць. Раніше Meta вирішила впровадити новий ARM-CPU для AGI та оголосила про плани співпраці у розробці кількох наступних поколінь чипів. Аналіз ринку свідчить, що Meta прагне зменшити залежність від GPU у своїй AI-інфраструктурі, розширюючи використання CPU, кастомних чипів і хмарних ресурсів для довгострокової конкуренції.

TP AI зауваження Використовує мовну модель на основі TokenPost.ai для підсумку статті. Можливо, у тексті пропущено ключовий зміст або він не відповідає фактам.