Jev dari TypeSafe AI @typesafeai kini sepenuhnya terbuka, ditambah Kev open source dari tim Cognition. Sinyal di dunia AI dalam dua hari terakhir sangat jelas: kita tidak lagi perlu menghabiskan komputasi mahal untuk mengambil keputusan “ya atau tidak”.

Saya memiliki alur otomatisasi untuk memproses Leads dalam jumlah besar. Sebelumnya, menggunakan GPT-4o untuk menyaring 700 calon pelanggan bukan hanya menguras biaya, tetapi juga membuat saya khawatir karena sesekali model berhalusinasi dan mengarang alasan.
Kemarin saya mencoba mengubah alurnya: membiarkan Jev memberikan skor kecocokan, dengan menetapkan skor keyakinan untuk setiap Lead dan langsung menyingkirkan yang tidak memenuhi standar. Hasilnya, seluruh proses selesai dalam 40 detik dengan biaya kurang dari 0,1 yuan.
Inti dari “model pengambilan keputusan” ini adalah hanya melakukan satu hal: memilih solusi optimal dari opsi yang kamu berikan, atau memberi skor pada kalimat pernyataanmu. Model ini tidak menulis puisi atau mengobrol, sehingga mampu meningkatkan kecepatan hingga 20 kali bahkan 200 kali lipat.
Selain itu, hambatannya kini benar-benar sudah sangat rendah. Kemunculan Kev membuat deployment lokal menjadi mudah dijangkau; melatih model 4B dengan satu H100 hanya membutuhkan 40 menit. Artinya, kamu bisa menggunakan data khusus dari bisnis sendiri untuk menyetel model pengambilan keputusan khusus dalam hitungan menit. Performa Kev-8B pada data di luar domain sudah mendekati Jev, yang menunjukkan bahwa jalur ini sepenuhnya layak ditempuh.
Cobalah Jev atau Kev, dan ganti routing AI, pengenalan intent, serta gateway keamananmu dengan mesin pengambilan keputusan khusus seperti ini. Saat kamu mendapati waktu respons agenmu turun dari hitungan detik menjadi hitungan milidetik, kamu akan menyadari bahwa inilah manfaat efisiensi yang sesungguhnya.