Qwen 3.6 27B adalah pilihan ideal untuk pengembangan lokal

robot
Pembuatan abstrak sedang berlangsung
ME AI berita, Qwen 3.6 27B adalah model bahasa besar lokal dengan parameter padat, yang mendukung konteks 256k secara native. Berjalan di Macbook Max M5 dengan llama.cpp versi kuantisasi Q8_0 (termasuk prediksi multi-token) dapat mencapai 30 tokens/s; umpan balik pengguna di RTX 5090 dengan kuantisasi Q6_K dapat mencapai 50 tokens/s. Ini dapat menyelesaikan tugas-tugas seperti puisi kreatif, menghasilkan game minesweeper heksagonal dengan pnpm, dan lain-lain hanya dengan satu prompt; penulis menyebutnya sebagai model lokal pertama yang benar-benar memiliki kecerdasan umum. Ada juga varian MoE 35B A3B, tetapi penulis merekomendasikan versi 27B. 🔗 baca artikel asli:
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan