Google випустила восьме покоління TPU, навчання та виведення вперше розділені на два окремі чіпи

robot
Генерація анотацій у процесі
МЕ Новини повідомляють, що 22 квітня (UTC+8), згідно з моніторингом Датчі Beating, генеральний директор Google Сундар Пічаї оголосив на Cloud Next 2026 про восьме покоління TPU, вперше розділивши тренування та інференс на два окремі чіпи. TPU 8t орієнтований на тренування. Один супернод може підключати 9600 TPU, забезпечуючи обчислювальну потужність 121 екзафлопс і 2PB спільної високошвидкісної пам’яті, продуктивність обробки в 3 рази вища за попереднє покоління Ironwood, а енергоефективність підвищена до 2 разів. Міжчіпна пропускна здатність подвоєна, у поєднанні з новою мережею Virgo, що дозволяє сформувати один логічний кластер з до 1 мільйона чіпів, забезпечуючи майже лінійне масштабування. Google заявляє, що мета — скоротити цикл розробки передових моделей з кількох місяців до кількох тижнів. TPU 8i орієнтований на інференс. Один під’єднаний до 1152 TPU, обладнаний 288 ГБ високошвидкісної пам’яті та 384 МБ внутрішньої SRAM, що в 3 рази більше за Ironwood, для максимальної утримання активних даних моделі безпосередньо на чіпі. Нова мережа Boardfly значно зменшує затримки, і Google стверджує, що за однаковою ціною вона може обслуговувати майже вдвічі більше клієнтів, з метою підтримки мільйонів агентів одночасно. Обидва чіпи розміщені на самостійних процесорах Arm архітектури Axion, розроблених Google, з четвертим поколінням рідинного охолодження. Планується, що у кінці 2026 року вони будуть офіційно доступні на платформі Google Cloud AI Hypercomputer разом із GPU від Nvidia. (Джерело: BlockBeats)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено