Google оголосила про восьме покоління TPU, при цьому навчання та виведення вперше розділені на два окремі чіпи

ME News Новини, 22 квітня (UTC+8), згідно з моніторингом Датчі Beating, генеральний директор Google Sundar Pichai оголосив на Cloud Next 2026 про восьме покоління TPU, вперше розділивши навчання та інференцію на два окремі чіпи. TPU 8t орієнтований на навчання. Один супернод може підключати 9600 TPU, забезпечуючи 121 екзафлопс обчислювальної потужності та 2PB спільної високошвидкісної пам’яті, продуктивність обробки в 3 рази вища за попереднє покоління Ironwood, а енергоефективність підвищена до 2 разів. Міжчіпне з’єднання пропускної здатності подвоєно, у поєднанні з новою мережею Virgo, що дозволяє сформувати один логічний кластер з до 1 мільйона чіпів, забезпечуючи майже лінійне масштабування. Google заявляє, що мета — скоротити цикл розробки передових моделей з кількох місяців до кількох тижнів. TPU 8i орієнтований на інференцію. Один під’єднаний до 1152 TPU, обладнаний 288GB високошвидкісної пам’яті та 384MB внутрішньочіпової SRAM, що в 3 рази більше Ironwood, для максимально тримання активних даних моделі на чіпі. Нова мережа Boardfly значно зменшує затримки, і Google стверджує, що за однаковою вартістю вона може обслуговувати майже вдвічі більше клієнтів, з метою підтримки роботи мільйонів агентів одночасно. Обидва чіпи розміщені на самостійних процесорах Arm архітектури Axion, розроблених Google, з четвертим поколінням рідинного охолодження. Планується їх офіційний запуск у 2026 році на платформі Google Cloud AI Hypercomputer, у поєднанні з GPU інстансами NVIDIA. (Джерело: BlockBeats)