vkhosla memperkenalkan model 1-bit Bonsai 8B, dengan penggunaan memori hanya 1,15GB

robot
Pembuatan abstrak sedang berlangsung

Berita ME, pada 1 April (UTC+8), baru-baru ini penulis vkhosla memperkenalkan sebuah model bobot 1-bit bernama 1-bit Bonsai 8B di media sosial. Menurut keterangannya, model ini hanya menggunakan memori 1,15 GB, dan kerapatan kecerdasannya (intelligence density) diduga lebih dari 10 kali dibandingkan model padanannya dengan presisi penuh. Pandangan dalam artikel tersebut menyebutkan bahwa pada perangkat keras tepi, ukuran model ini mengecil 14 kali, kecepatannya meningkat 8 kali, efisiensi energinya naik 5 kali, dan sekaligus tetap kompetitif dibandingkan dengan model-model lain. Berita tersebut juga menyebutkan bahwa model ini memiliki kompresibilitas yang lebih baik, kecepatan yang lebih cepat, ukuran yang lebih kecil, serta efisiensi energi yang lebih tinggi dibandingkan model yang diumumkan Google sehari sebelumnya. Teks asli tidak memberikan tolok ukur perbandingan kinerja yang spesifik, pihak yang merilis, detail implementasi teknis, atau hasil evaluasi lengkap. (Sumber: InFoQ)

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan