Menurut pemantauan oleh Dongcha Beating, Meituan telah secara resmi membuka sumber model triliunan parameter LongCat-2.0, yang memiliki total 1,6 triliun parameter dan rata-rata aktivasi sekitar 48 miliar, yang dirancang khusus untuk tugas-tugas Agentic Coding nyata. Arsitektur ini secara inovatif memperkenalkan perhatian sparse LongCat dan embedding N-gram; yang pertama mengurangi akses memori yang terfragmentasi melalui pengindeksan persepsi kefasihan dan pengindeksan hierarkis, mempercepat pelatihan dan inferensi untuk konteks panjang jutaan token. Yang terakhir menginvestasikan 135 miliar parameter ke dalam lapisan embedding sambil mempertahankan sparsity hampir 97% di MoE, menyeimbangkan efisiensi parameter dan stabilitas struktural. Pasca-pelatihan menggunakan distilasi online multi-guru, mengkategorikan pakar menjadi tiga jenis: Agen, Inferensi, dan Interaksi, yang terintegrasi secara mulus melalui arsitektur MOPD pada klaster komputasi domestik. Sebagai model triliunan parameter pertama yang menyelesaikan inferensi pada klaster komputasi domestik 50.000 kartu, LongCat-2.0 memvalidasi kemampuan matang chip domestik untuk menangani tugas model besar yang kompleks. Untuk mengatasi berbagai keterbatasan chip domestik dalam hal memori, bandwidth, dan interkonektivitas, Meituan telah membuat terobosan di tiga area: model, adaptasi chip, dan penerapan. Di tingkat model, ScMoE menggunakan kemampuan kontrol inti dari chip domestik untuk mencapai paralelisme tingkat inti fisik antara cabang Dense dan MoE, dikombinasikan dengan segmentasi KV-cache untuk mengurangi tekanan memori dari konteks yang sangat panjang. Di tingkat adaptasi chip, Super Kernel mengurangi overhead startup operator, dan Weight Prefetch menyembunyikan latensi I/O, memaksimalkan pemanfaatan perangkat keras dalam kondisi terbatas. Di tingkat penerapan, pemisahan PD menyeimbangkan TTFT dan TPOT, bersama dengan penyeimbangan beban Expert-Parallel asinkron untuk mengatasi beban yang tidak merata pada tingkat EP tinggi. Rilis sumber terbuka ini juga menyediakan versi multi-presisi seperti BF16, FP8, dan INT8, dan bertujuan untuk sepenuhnya membuka hasil inferensi yang dioptimalkan untuk daya komputasi domestik, yang menargetkan penerapan layanan inferensi model triliunan parameter yang lancar bahkan pada kartu domestik yang sudah ada dan lebih lama.

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.

Hadiah
suka
Komentar
Posting ulang
Bagikan

Komentar

Tambahkan komentar

Tidak ada komentar

Topik Trending
Lihat Lebih Banyak
#
GTBurns2.57MInQ
169,42K Popularitas
#
PredictWorldCupShare20000U
262,67K Popularitas
#
IsraelStrikesIranBTCPlunges
69,38K Popularitas
#
VitalikUnveilsLeanEthereum
158,84K Popularitas
#
gStocksTokenizedStocksLive
4,87M Popularitas

Disematkan

peta situs

Meituan Merilis Sumber Terbuka Model LongCat-2.0 dengan Triliun Parameter, Merilis Kode Inferensi untuk Cip Tiongkok Domestik

Topik Trending

GTBurns2.57MInQ

PredictWorldCupShare20000U

IsraelStrikesIranBTCPlunges

VitalikUnveilsLeanEthereum

gStocksTokenizedStocksLive

Disematkan