Google выпустила восьмое поколение TPU, обучение и вывод впервые разделены на два отдельных чипа

ME News Новости, 22 апреля (UTC+8), согласно мониторингу 动察 Beating, генеральный директор Google Sundar Pichai представил восьмое поколение TPU на Cloud Next 2026, впервые разделив обучение и вывод модели на два отдельных чипа. TPU 8t предназначен для обучения. Один суперузел может подключать 9600 TPU, обеспечивая вычислительную мощность 121 ExaFlops и 2PB совместной высокопроизводительной памяти, производительность обработки в 3 раза выше предыдущего поколения Ironwood, а энергоэффективность увеличена до 2 раз. Межчиповая пропускная способность удвоена, в сочетании с новой топологией сети Virgo, что позволяет объединять до миллиона чипов в один логический кластер с почти линейным масштабированием. Google заявил, что цель — сократить цикл разработки передовых моделей с нескольких месяцев до нескольких недель. TPU 8i предназначен для вывода моделей. Один узел (pod) соединяет 1152 TPU, оснащен 288GB высокопроизводительной памяти и 384MB встроенной SRAM, что в 3 раза больше, чем у Ironwood, для максимально возможного удержания активных данных модели на чипе. Новая топология сети Boardfly значительно снижает задержки, и Google утверждает, что при одинаковых затратах она может обслуживать почти вдвое больше клиентов, а цель — поддержка миллионов агентов одновременно. Оба чипа размещены на собственных процессорах Arm архитектуры Axion, разработанных Google, с четвертым поколением жидкостного охлаждения. Планируется их официальное внедрение в конце 2026 года на платформе Google Cloud AI Hypercomputer, параллельно с предложением GPU-инстансов от Nvidia. (Источник: BlockBeats)