Berita Bikun, PrismML menyatakan bahwa mereka telah mengompres model open-source dari Alibaba, Qwen3.6-27B, hingga sekitar 4 GB dan berhasil menjalankannya di iPhone 17 Pro. Qwen3.6-27B adalah model padat dengan 27 miliar parameter, di mana semua parameter berpartisipasi dalam komputasi saat inferensi, bukan model MOE yang hanya mengaktifkan sebagian parameter. PrismML menyebutkan bahwa ukuran model dikompres dari sekitar 54 GB menjadi kurang dari 4 GB, tanpa penurunan kinerja yang signifikan, dan cocok untuk percakapan kompleks, penalaran, agen, dan tugas kode. Apple telah menghubungi PrismML untuk mendiskusikan bagaimana menerapkan teknologi ini ke perangkat mereka, meskipun Siri tingkat lanjut masih bergantung pada model cloud.

AAPL0,82%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 4
  • 2
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
PanicSellPaul
· 3jam yang lalu
Alibaba open source + Apple kontak, gelombang ini model buatan dalam negeri mengekspor balik ke Silicon Valley, nyaman.
Lihat AsliBalas0
CandleAfterTheRain
· 4jam yang lalu
54GB dikompres menjadi 4GB dan masih bisa berjalan di ponsel, rasio kompresinya benar-benar gila, ilmu hitam apa yang digunakan PrismML?
Lihat AsliBalas0
LeverageWithdrawalInProgress
· 4jam yang lalu
27 miliar parameter diaktifkan sepenuhnya, bukan seperti MOE yang mencari jalan pintas, jika ini benar-benar tidak menurunkan performa, dasar Qwen3.6 memang kokoh.
Lihat AsliBalas0
  • Disematkan