Google merilis TPU generasi kedelapan, pelatihan dan inferensi pertama kali dipisahkan menjadi dua chip yang terpisah

Berita ME News, 22 April (UTC+8), menurut pemantauan Beating dari Dongcha, CEO Google Sundar Pichai mengumumkan TPU generasi kedelapan di Cloud Next 2026, yang pertama kali memisahkan pelatihan dan inferensi menjadi dua chip independen. TPU 8t ditujukan untuk pelatihan. Satu node super dapat terhubung ke 9600 TPU, menyediakan kekuatan komputasi 121 ExaFlops dan memori bandwidth tinggi bersama sebesar 2PB, dengan performa pemrosesan tiga kali lipat dari Ironwood generasi sebelumnya, dan efisiensi energi meningkat hingga dua kali lipat. Bandwidth antar chip meningkat dua kali lipat, didukung oleh topologi jaringan Virgo yang baru diluncurkan, memungkinkan hingga satu juta chip membentuk satu klaster logis, dengan skalabilitas hampir linier. Google menyatakan targetnya adalah mempercepat siklus pengembangan model terdepan dari beberapa bulan menjadi beberapa minggu. TPU 8i ditujukan untuk inferensi. Satu pod menghubungkan 1152 TPU, dilengkapi dengan memori bandwidth tinggi 288GB dan SRAM on-chip sebesar 384MB, yang tiga kali lipat dari Ironwood, untuk menjaga data model aktif tetap di dalam chip sebisa mungkin. Topologi jaringan Boardfly yang baru secara signifikan mengurangi latensi, dan Google menyatakan bahwa dengan biaya yang sama, dapat melayani hampir dua kali lipat jumlah pelanggan, dengan target mendukung jutaan agen berjalan secara bersamaan. Kedua chip ini dihosting di CPU Axion berbasis arsitektur ARM buatan Google sendiri, dilengkapi dengan sistem pendingin cair generasi keempat. Rencana peluncuran resmi pada platform Google Cloud AI Hypercomputer pada akhir 2026, bersamaan dengan instance GPU Nvidia. (Sumber: BlockBeats)