Google выпустила восьмое поколение TPU, обучение и вывод впервые разделены на два отдельных чипа

robot
Генерация тезисов в процессе
ME News Новости, 22 апреля (UTC+8), согласно мониторингу 动察 Beating, генеральный директор Google Sundar Pichai представил восьмое поколение TPU на Cloud Next 2026, впервые разделив обучение и вывод модели на два отдельных чипа. TPU 8t предназначен для обучения. Один суперузел может подключать 9600 TPU, обеспечивая 121 экзафлопс вычислительной мощности и 2PB общей высокопроизводительной памяти с высоким пропусканием, производительность обработки в 3 раза выше предыдущего поколения Ironwood, а энергоэффективность увеличена до 2 раз. Межчиповая пропускная способность удвоена, в сочетании с новой топологией сети Virgo, что позволяет объединять до миллиона чипов в один логический кластер, обеспечивая почти линейное масштабирование. Google заявил, что цель — сократить цикл разработки передовых моделей с нескольких месяцев до нескольких недель. TPU 8i предназначен для вывода моделей. Один узел подключает 1152 TPU, оснащен 288 ГБ высокопроизводительной памяти с высоким пропусканием и 384 МБ встроенной SRAM, что в 3 раза больше, чем у Ironwood, для максимально возможного удержания активных данных модели на чипе. Новая топология сети Boardfly значительно снижает задержки, и Google утверждает, что при одинаковых затратах она может обслуживать почти вдвое больше клиентов, а цель — поддерживать работу миллионов агентов одновременно. Оба чипа размещены на собственных процессорах Arm архитектуры Axion, разработанных Google, с четвертым поколением жидкостного охлаждения. Планируется их официальное внедрение в конце 2026 года на платформе Google Cloud AI Hypercomputer, совместно с GPU-инстансами Nvidia. (Источник: BlockBeats)
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено