Google випустила восьме покоління TPU, навчання та виведення вперше розділені на два окремі чіпи

МЕ Новини повідомляють, що 22 квітня (UTC+8), згідно з моніторингом Датчі Beating, генеральний директор Google Сундар Пічаї презентував восьме покоління TPU на Cloud Next 2026, вперше розділивши тренування та інференцію на два окремі чіпи. TPU 8t орієнтований на тренування. Один супернод може підключати 9600 TPU, забезпечуючи обчислювальну потужність у 121 екзафлопс і 2 ПБ спільної високошвидкісної пам’яті, продуктивність у 3 рази вища за попереднє покоління Ironwood, а енергоефективність підвищена до 2 разів. Міжчіпне з’єднання пропускної здатності подвоєно, у поєднанні з новою мережею Virgo, що дозволяє сформувати один логічний кластер з до 1 мільйона чіпів із майже лінійним масштабуванням. Google заявляє, що мета — скоротити цикл розробки передових моделей з кількох місяців до кількох тижнів. TPU 8i орієнтований на інференцію. Один під’єднаний до 1152 TPU, обладнаний 288 ГБ високошвидкісної пам’яті та 384 МБ внутрішньочіпової SRAM, що у 3 рази більше за Ironwood, для максимально тримання активних даних моделей на чіпі. Нова мережа Boardfly значно зменшує затримки, і Google стверджує, що за однаковою ціною вона може обслуговувати майже вдвічі більше клієнтів, а її мета — підтримувати мільйони агентів одночасно. Обидва чіпи розміщені на самостійних процесорах Arm архітектури Axion, розроблених Google, з четвертим поколінням рідинного охолодження. Планується, що у кінці 2026 року вони будуть офіційно доступні на платформі Google Cloud AI Hypercomputer разом із GPU від Nvidia. (Джерело: BlockBeats)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено