Google merilis TPU generasi kedelapan, pelatihan dan inferensi pertama kali dipisahkan menjadi dua chip yang terpisah

robot
Pembuatan abstrak sedang berlangsung
Berita ME News, 22 April (UTC+8), menurut pemantauan Beating dari Dongcha, CEO Google Sundar Pichai meluncurkan TPU generasi kedelapan di Cloud Next 2026, yang pertama kali memisahkan pelatihan dan inferensi menjadi dua chip independen. TPU 8t ditujukan untuk pelatihan. Satu node super dapat terhubung ke 9600 TPU, menyediakan 121 ExaFlops daya komputasi dan 2PB memori bandwidth tinggi bersama, dengan kinerja pemrosesan 3 kali lipat dari Ironwood generasi sebelumnya, dan peningkatan efisiensi energi hingga 2 kali lipat. Bandwidth antar chip meningkat dua kali lipat, didukung oleh topologi jaringan Virgo yang baru diluncurkan, memungkinkan hingga 1 juta chip membentuk satu kluster logis, mencapai skalabilitas hampir linier. Google menyatakan targetnya adalah memperpendek siklus pengembangan model terdepan dari beberapa bulan menjadi beberapa minggu. TPU 8i ditujukan untuk inferensi. Satu pod menghubungkan 1152 TPU, dilengkapi dengan 288GB memori bandwidth tinggi dan 384MB SRAM on-chip, yang tiga kali lipat dari Ironwood, untuk menjaga data model aktif tetap di chip sebisa mungkin. Topologi jaringan Boardfly yang baru secara signifikan mengurangi latensi, Google menyatakan bahwa dengan biaya yang sama dapat melayani hampir dua kali lipat jumlah pelanggan, dengan target mendukung jutaan agen berjalan secara bersamaan. Kedua chip ini dihosting di CPU Axion berbasis ARM buatan Google sendiri, dilengkapi dengan pendinginan cair generasi keempat. Direncanakan akan secara resmi tersedia pada akhir 2026 di platform Google Cloud AI Hypercomputer, bersamaan dengan instance GPU Nvidia. (Sumber: BlockBeats)
GOOGLX-4,62%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan