Moonshot AI merilis model AI open-source terbesar Kimi K3 - ForkLog

# Moonshot AI merilis model AI terbuka terbesar Kimi K3

Startup AI asal Tiongkok, Moonshot AI, memperkenalkan Kimi K3—model terbuka kelas 3T pertama di dunia dengan 2,8 triliun parameter, visi bawaan, dan konteks 1 juta token. Menurut penilaian internal proyek, secara keseluruhan hanya kalah dari model proprietary Claude Fable 5 dan GPT 5.6 Sol.

Kimi K3 dibangun di atas arsitektur baru Kimi Delta Attention (KDA) dan Attention Residuals (AttnRes). KDA memungkinkan pemrosesan yang lebih efisien untuk rangkaian data yang panjang, sementara AttnRes mengambil informasi yang dibutuhkan tidak secara merata dari semua lapisan, melainkan secara selektif. Akibatnya, model memahami konteks dengan lebih dalam dan mempertahankan makna bahkan saat memproses teks yang rumit.

Kelangkaan ditangani oleh framework Stable LatentMoE: dari 896 pakar, hanya 16 yang bekerja secara bersamaan. Kombinasi hal ini dengan data baru dan pengaturan pelatihan menghasilkan peningkatan efisiensi sebesar 2,5 kali dibanding K2.

Menurut para pengembang, sembilan dari 12 bulan terakhir model Kimi mempertahankan rekor ukuran di antara model terbuka.

Sumber: blog Kimi. Model baru Moonshot AI sudah tersedia di situs web, di Kimi Work, Code, dan API. Secara default, mode penalaran maksimum diaktifkan, sedangkan mode lainnya akan hadir belakangan. Bobot lengkap dan laporan akan dipublikasikan pada 27 Juli.

Hasil pada benchmark

Pada sebagian pengujian, K3 menunjukkan hasil lebih tinggi daripada Fable 5 dan GPT-5.6 Sol, tetapi pada pengujian lainnya tertinggal cukup jauh. K3 memimpin di SWE Marathon (42 vs 35 dan 39), BrowseComp (91,2 vs 88 dan 90,4), serta Program Bench (77,8 vs 76,8 dan 77,6). Di Terminal Bench 2.1, skor K3 adalah 88,3: ini lebih tinggi dari Fable 5 (84,6) dan hanya 0,5 poin lebih rendah dari Sol (88,8).

Sementara itu, pada FrontierSWE K3 meraih 81,2 berbanding 86,6 untuk Fable 5, dan pada HLE-Full 43,5 berbanding 53,3. Metodologi pengujian berbeda: sebagian model dinilai melalui Claude Code, sedangkan yang lain melalui Codex atau KimiCode milik mereka sendiri.

Coding dan tugas berbasis agen

K3 mampu menjalankan sesi engineering yang panjang hampir tanpa campur tangan manusia, menavigasi repositori besar, dan mengendalikan alat-alat terminal.

Dalam uji optimasi kernel GPU, kernel model dijalankan secara independen hingga 24 jam untuk empat tugas—termasuk kernel AttnRes, KDA, dan MLA dengan dimensi head 512—di NVIDIA H200 dan GPU dari pabrikan lain. K3 menunjukkan hasil setara dengan Fable 5 dan secara signifikan mengungguli Opus 4.8, GPT-5.6 Sol, serta GPT-5.5. Pada tahap akhir pengembangan, versi awal K3 secara mandiri menyelesaikan sebagian besar optimasi seperti itu di dalam tim Moonshot.

Sumber: blog Kimi. Secara terpisah, model tersebut menulis dari nol MiniTriton—kompiler ringkas untuk kernel GPU dengan lapisan IR miliknya sendiri di atas MLIR dan pembuatan kode PTX.

Perancangan chip dan pengembangan game

Sebagai demonstrasi, K3 secara mandiri mendesain chip untuk jaringan saraf pada arsitektur miliknya.

Peluncuran otonom memakan waktu 48 jam: model menggunakan alat EDA open-source dan library Nangate 45 nm. Chip tersebut muat dalam 4 mm², mempertahankan frekuensi 100 MHz, dan menghasilkan lebih dari 8.700 token per detik dalam simulasi. Chip ini mencakup 1,46 juta sel standar, SRAM 0,277 MB, serta array INT4 MAC dengan dekuantisasi tertanam.

K3 juga menggabungkan penalaran 3D, kode, dan visi untuk membuat prototipe game dan interaktif dari konsep, gambar, dan video.

Kerja dengan pengetahuan dan video

Dalam salah satu kasus, K3 mereplikasi relasi universal I-Love-Q dari astrofisika komputasional. Proses ini memakan waktu sekitar dua jam, alih-alih satu hingga dua minggu kerja oleh peneliti berpengalaman. Model meninjau lebih dari 20 artikel ilmiah, mengevaluasi lebih dari 300 persamaan keadaan, menemukan inkonsistensi pada rumus-rumus yang dipublikasikan, serta menulis lebih dari 3.000 baris kode Python, kemudian merangkum hasilnya dalam dasbor HTML interaktif.

Pada kasus lain, K3 menyiapkan laporan interaktif mengenai 42 tahun sejarah industri chip ASIC selama 120 putaran rekursif peningkatan diri, dengan memproses lebih dari 11.000 halaman dari 87 laporan kuartalan dan 99 PDF orisinal.

Sumber: blog Kimi. Berkat kerja native dengan video, K3 bisa melakukan editing: pada satu contoh, model membuat animasi penjelasan arsitektur miliknya dengan gaya 3Blue1Brown; pada contoh lain, model tersebut menyusun teaser tentang peluncurannya sendiri dari 56 klip sumber, termasuk pemilihan frame, sinkronisasi dengan musik, serta pemrosesan audio. Menurut Moonshot, pekerjaan seperti ini akan memakan waktu satu hingga dua hari bagi editor berpengalaman, dan tiga hingga lima hari bagi pemula.

Batasan

Tim proyek menekankan bahwa K3 sensitif terhadap hilangnya riwayat penalaran saat beralih lingkungan agen di tengah sesi, dan dapat menunjukkan inisiatif berlebihan pada situasi yang ambigu. Dari sisi kemudahan penggunaan, model saat ini masih jauh di bawah Fable 5 dan GPT-5.6 Sol.

Sebagai pengingat, pada Juli 2025 Moonshot AI merilis Kimi K2—model pertama dari lini tersebut dengan 1 triliun parameter, yang dengan cepat menjadi salah satu sistem open terdepan untuk tugas berbasis agen.