Amazon AWS розгорне чіп Cerebras рівня кристала AI CS-3, щоб використовувати його разом із власною платформою Trainium.

robot
Генерація анотацій у процесі

IT之家16 березня повідомляє, що Amazon AWS та компанія Cerebras, виробник чіпів для штучного інтелекту рівня зразка кремнію, у США 13 березня оголосили, що платформа Amazon Bedrock у найближчі місяці розгорне гібридну систему штучного інтелекту для обробки запитів, яка поєднуватиме продукти обох сторін і забезпечить найшвидшу обробку навантажень.

Ця рішення поєднуватиме систему Cerebras CS-3, чіпи Trainium від Amazon AWS і адаптери мережі EFA від Amazon AWS, причому Trainium відповідатиме за попередню обробку запитів (підказки), а CS-3 — за декодування (генерацію вихідних даних), обидва компоненти будуть з’єднані через EFA.

Як стало відомо з IT之家, попередня обробка запитів належить до паралельних навантажень, що вимагають високої обчислювальної потужності та помірної пропускної здатності пам’яті; декодування запитів є по суті послідовним процесом, з меншими вимогами до обчислювальної потужності, але з високими вимогами до пропускної здатності пам’яті. Комбіноване використання чіпів Trainium і CS-3 дозволяє максимально ефективно використовувати сильні сторони кожного з них і забезпечити найкращий кінцевий досвід для користувачів.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити