vkhosla memperkenalkan model 1-bit Bonsai 8B, dengan penggunaan memori hanya 1,15GB

robot
Pembuatan abstrak sedang berlangsung

Berita ME, 1 April (UTC+8). Baru-baru ini, penulis vkhosla memperkenalkan sebuah model bobot 1-bit bernama 1-bit Bonsai 8B di media sosial. Menurut keterangannya, model tersebut hanya menggunakan memori 1,15 GB, dan kerapatan kecerdasannya (intelligence density) diduga lebih dari 10 kali dibandingkan model padanannya dengan presisi penuh. Pandangan dalam artikel tersebut menyatakan bahwa pada perangkat keras tepi (edge hardware), ukuran model ini telah diperkecil 14 kali, kecepatannya meningkat 8 kali, dan efisiensi energinya naik 5 kali, sekaligus tetap kompetitif dibandingkan model-model lain. Berita tersebut juga menyebutkan bahwa model ini memiliki kompresibilitas yang lebih baik, kecepatan yang lebih tinggi, ukuran yang lebih kecil, dan efisiensi energi yang lebih tinggi daripada model yang diumumkan Google sehari sebelumnya. Teks asli tidak memberikan tolok ukur perbandingan kinerja yang spesifik untuk model, pihak yang merilis, detail implementasi teknis, atau hasil penilaian lengkap. (Sumber: InFoQ)

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan