Dari dasar naik vibe kode - ForkLog

# Dari dasar vibcoding

Panduan menjalankan model AI terbuka dari github dalam

Dalam perkembangan AI, muncullah vektor di mana desentralisasi dan kode sumber terbuka memungkinkan melampaui batasan solusi komersial populer. LLM lokal memungkinkan bekerja dengan data secara privat, menyesuaikan sistem secara fleksibel sesuai kebutuhan, dan mengendalikan sendiri lingkungan penggunaan. Namun, menjalankan model semacam itu memerlukan pemahaman tentang alat dasar — mulai dari repositori dan bobot model hingga lingkungan cloud dan spesifikasi teknis.

Dalam materi baru ForkLog, kami akan membahas cara memulai perkenalan dengan model AI otonom tanpa biaya, sumber daya apa yang dapat digunakan oleh pemula, dan apa yang ditawarkan oleh pengembang solusi OS.

Perkenalan Awal

Bagi pengembang model AI terbuka, ada dua platform utama — GitHub dan Hugging Face. Yang pertama secara tradisional digunakan untuk mempublikasikan kode sumber, dokumentasi, dan skrip instalasi, yang kedua telah menjadi pusat global untuk bobot model, dataset, dan solusi ML siap pakai. Di Hugging Face, dipublikasikan ratusan ribu jaringan saraf terlatih, mulai dari model bahasa mini untuk ponsel, generator alternatif konten media, hingga algoritma khusus untuk ilmuwan dan penggemar.

Memilih model yang diperlukan dibantu oleh metrik aktivitas komunitas. Di GitHub, metrik ini diwakili oleh jumlah bintang (stars), keteraturan pembaruan (commits), dan kecepatan penyelesaian masalah (issues).

Secara terpisah, penting untuk memeriksa asal-usul produk dan keaslian repositori. Build OS populer secara teratur menjadi umpan bagi penipu siber yang menyebarkan kode berbahaya dengan kedok alat AI terkenal.

Tahap selanjutnya dalam perkenalan dengan model AI lokal adalah mencoba fungsionalitasnya dalam praktik. Bagi pengguna tanpa perangkat keras yang kuat, tersedia platform cloud gratis dan berbayar bersyarat

Solusi paling populer — Google Colab — lingkungan cloud yang menyediakan akses ke unit pemrosesan grafis (GPU) langsung dari peramban. Langganan gratis memungkinkan bekerja pada sistem dengan akselerator Nvidia Tesla T4 rata-rata dua hingga empat jam tergantung pada beban. Alternatifnya adalah Kaggle Notebooks dan Hugging Face Spaces. Yang terakhir memungkinkan berinteraksi dengan model melalui antarmuka web siap pakai seperti Gradio atau Streamlit.

Juga dalam bekerja dengan solusi federal, perlu mempertimbangkan aspek hukum. Banyak proyek populer tersedia di bawah lisensi klasik, seperti MIT atau Apache 2.0, yang memungkinkan penggunaannya untuk tujuan komersial dengan batasan minimal.

Namun, ada juga pendekatan khusus. Meta mendistribusikan model andalannya di bawah lisensi miliknya sendiri, Llama 3.1 Community License, yang memerlukan izin khusus jika audiens bulanan layanan melebihi 700 juta pengguna.

Lisensi copyleft ketat seperti GNU General Public License juga ditemukan, yang mewajibkan membuka kode semua produk turunan.

ChatGPT Pribadi Saya

Dari sejumlah besar LLM tujuan umum otonom (analog ChatGPT atau Gemini), memilih model yang diperlukan dibantu oleh peringkat independen berdasarkan pengujian buta dan metrik kinerja seperti Open LLM Leaderboard dan Chatbot Arena.

Dasbor LLM terbuka. Sumber: llm-stats.Standar emas segmen ini dianggap sebagai keluarga model Llama dari pengembang Meta dan Qwen dari Alibaba. Model-model ini bekerja dengan baik dengan konteks panjang, menangani kueri multi-langkah, dan cocok untuk tugas vibcoding dan pemrograman. Berkat kerangka kerja terbuka Ollama, instalasinya hanya dengan satu perintah.

Selama pengujian yang dilakukan untuk menulis materi ini, model qwen3.5:2b berhasil dijalankan di laptop tanpa kartu grafis diskrit berbasis Core i7 dengan RAM 8 GB dan SSD, sambil menutup aplikasi berat: aplikasi perpesanan dan peramban.

Sumber: Ollama."2b" berarti 2 miliar parameter. Semakin tinggi nilainya, semakin kompleks hubungan yang dapat ditangkap oleh jaringan saraf. Misalnya, model 2b akan mempelajari tata bahasa dasar dan perintah sederhana, sedangkan 122b akan mengingat fakta dari fisika kuantum, nuansa dokumen hukum, dan belajar merencanakan tugas sepuluh langkah ke depan.

Setiap parameter memakan ruang fisik di hard drive dan, yang terpenting, di RAM. 2b menggunakan sekitar 4-5 GB RAM dan menjadi maksimum untuk dijalankan di mesin semacam itu. Sementara itu, respons terhadap permintaan paling sederhana "halo!" dihasilkan oleh model selama hampir tiga menit.

Tangkapan layar: ForkLog.Gradasi perkiraan model:

• 0.5b-2b. Cepat, dapat bekerja di laptop lama dan ponsel. Ideal untuk tugas sederhana (perutean perintah, ringkasan dasar, pelengkapan otomatis baris kode pendek). Cenderung berhalusinasi pada permintaan kompleks;
• 3b-4b. Keseimbangan kecepatan dan kualitas. Cocok untuk perangkat seluler, rumah pintar, dan tugas otomatisasi. Misalnya, chatbot dapat diminta untuk meredupkan lampu di ruangan, menyalakan AC, atau menaikkan palang pintu;
• 7b-9b. Memerlukan sekitar 6–8 GB RAM kosong. Model kuat dengan pemahaman konteks dan logika mendalam, cocok untuk pemrograman dan bekerja dengan teks besar.

Dalam penelitian terbarunya tentang vibcoding di Web3, Vladimir Sleeper menemukan bahwa untuk mesin setingkat MacBook Air RAM 16 GB, cocok qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b. Model yang lebih bertenaga memerlukan investasi di PC kuat dengan kartu grafis kelas atas atau dipasang di server sewaan.

Pemrosesan Data Pribadi, Pencetakan 3D, dan Perlindungan Pengguna

Opsi interaksi dengan model AI terbuka tergantung pada tingkat persiapan pengguna dan perangkat keras. Ada proyek yang dikemas dalam penginstal yang nyaman (file dengan ekstensi .EXE) atau aplikasi seluler yang bekerja "out of the box". Yang lainnya adalah repositori GitHub yang terbengkalai, di mana instalasi berubah menjadi perjuangan berjam-jam melawan konflik pustaka usang.

Model AI terapan saat ini digunakan tidak hanya untuk pembuatan teks. Bahkan analisis permukaan ekosistem memungkinkan mengidentifikasi puluhan alat khusus untuk tugas-tugas tertentu

Bekerja dengan Video dan 3D:

• CogVideoX. Model terbuka dari Zhipu AI untuk pembuatan video berdasarkan deskripsi teks. Memungkinkan pembuatan klip pendek realistis, memiliki bobot terbuka dan dapat di-deploy di lingkungan seperti Jupyter atau Colab dengan jumlah memori video yang cukup;
• DepthCrafter. Alat untuk mengekstrak informasi kedalaman dari video. Berguna untuk spesialis VFX dan pemodelan 3D. Ini memungkinkan pembuatan peta kedalaman presisi tinggi untuk setiap bingkai adegan dinamis;
• TRELLIS (Morfx 3D). Sistem canggih untuk pembuatan aset 3D. Proyek ini memungkinkan pembuatan model tiga dimensi berkualitas tinggi dari gambar atau permintaan teks, mengoptimalkannya untuk digunakan di mesin game.

Transformasi foto kereta menjadi objek untuk diproses dan dicetak 3D menggunakan versi web model Morfx 3D. Tangkapan layar: ForkLog.Suara dan Pengenalan:

• CosyVoice. Model sintesis ucapan multibahasa dengan dukungan kloning suara. Memungkinkan pembuatan audio realistis, mempertahankan intonasi dan pewarnaan emosional pembicara asli;
• Whisper-WebGPU. Implementasi model pengenalan ucapan dari OpenAI, ditulis ulang untuk bekerja langsung di peramban menggunakan API WebGPU. Ini berarti transkripsi audio terjadi secara lokal, memastikan privasi penuh tanpa mentransfer file audio ke server pihak ketiga;
• BirdNET-Analyzer. Jaringan saraf dari Universitas Cornell untuk mengidentifikasi spesies burung berdasarkan kicauannya. Tidak seperti aplikasi populer Merlin Bird ID, yang sangat bergantung pada pemrosesan cloud untuk beberapa fungsi, BirdNET-Analyzer memberikan kontrol penuh atas proses analisis secara lokal dan dapat digunakan untuk pemrosesan massal rekaman lapangan berukuran gigabyte.

Sumber: BirdNET.Pemrograman dan Perlindungan Pengguna:

• Screenshot-to-Code. Utilitas untuk mengonversi tangkapan layar halaman web atau aplikasi seluler menjadi kode HTML, Tailwind, atau React yang bersih. Meskipun seringkali proyek bekerja bersama API berbayar (Claude, GPT-4), arsitekturnya memungkinkan menghubungkan model multimodal terbuka;
• MinerU/Magic-PDF. Proyek untuk ekstraksi data terstruktur yang akurat dari dokumen PDF. Model mengenali teks, rumus matematika, dan tabel, mengonversi tata letak kompleks menjadi format Markdown;
• Fawkes. Menambahkan perubahan yang tidak terlihat pada gambar, mengganggu sistem pengenalan wajah dalam mengidentifikasi seseorang. Diunggah secara lokal ke PC melalui file dengan ekstensi .EXE dan dapat digunakan untuk avatar di media sosial;
• Nightshade. "Meracuni" piksel gambar untuk membingungkan algoritma pembelajaran perusahaan AI jika mereka melakukannya tanpa izin. Misalnya, pada permintaan "anjing", model akan menghasilkan gambar kucing.

Potret Presiden AS Donald Trump sebelum menggunakan Fawkes. Sumber: Perpustakaan Kongres AS. Setelah diproses oleh algoritma Fawkes. Tangkapan layar: ForkLog.

Berjuang dengan Pustaka dan Keberhasilan Pertama

Setelah menginstal model AI dengan UI/UX yang jelas, perlu diketahui seberapa mudahnya men-deploy repositori berat di cloud, dan secara gratis.

FLUX.1 dari startup Black Forest Labs adalah salah satu model pembuatan gambar terdepan, bersaing dengan Midjourney dan Nano Banana perusahaan. Dengan perangkat keras yang diperlukan, perangkat lunak dapat bekerja secara otonom tanpa akses internet dan memungkinkan melewati sensor.

Dalam pengujian, digunakan versi gratis paling ringan FLUX.1 Schnell. Untuk kenyamanan interaksi dengan solusi terbuka, pengembang membuat kerangka kerja yang ditargetkan seperti Ollama. Untuk pembuatan gambar, antarmuka grafis ComfyUI dan Forge populer.

Selama upaya menginstal implementasi Forge — cagliostro-forge-colab — harus menghabiskan seluruh sesi akses ke GPU dari Google Colab. Masalahnya ternyata adalah kesalahan klasik pemula — ketidakcocokan versi Python, lingkungan cloud, dan model itu sendiri. Selama empat jam vibcoding menggunakan versi gratis Gemini 3 Flash, keberhasilan tidak tercapai.

Pada akhirnya, harus meninggalkan instalasi kerangka kerja dan beralih langsung ke deployment FLUX.1, tetapi sudah di sesi gratis berikutnya di hari lain

Dalam praktiknya, Google Colab gratis lebih nyaman digunakan di akhir pekan: saat ini platform sering memberikan akses yang lebih lama

Model memakan sekitar 34 GB ruang disk SSD cloud. Namun semua proses terkait instalasi pada akhirnya menggunakan sekitar 86 GB.

Sumber daya yang digunakan dari mesin cloud Google Colab. Tangkapan layar: ForkLog.Pada tahap pertama, model FLUX.1 Schnell kekurangan memori video akselerator Nvidia Tesla T4. Konfigurasi yang tidak diadaptasi terbentur batas GPU, hingga setelah serangkaian eksperimen sederhana dengan kode, Gemini 3 Flash membantu membuat perubahan menggunakan pemuatan bertahap dan pembersihan memori. Hasilnya, dari 16 GB memori video yang tersedia, sekitar 3 GB digunakan selama proses pembuatan.

Tangkapan layar: ForkLog.Proses pembuatan satu gambar memakan waktu sekitar tujuh menit. Mengingat ini adalah versi gratis dari model terbuka, hasilnya sangat mengejutkan.

Gambar yang dihasilkan menggunakan FLUX.1 Schnell. Sumber: ForkLog Saat mencoba beberapa kali menghasilkan gambar penyanyi rock Marilyn Manson dalam gaya Victoria dengan pendamping, FLUX.1 Schnell kemungkinan tidak mengenali referensi ke orang tertentu dan hanya mereproduksi templat visual umum.

Gambar yang dihasilkan dari artis berdasarkan permintaan "gambarlah Marilyn Manson dalam gaya Victoria" menggunakan FLUX.1 Schnell. Sumber: ForkLog.

Yang Kompleks dan Luar Biasa

Jaringan saraf terbuka telah lama digunakan tidak hanya untuk pembuatan teks dan gambar, tetapi juga untuk tugas yang lebih spesifik dan tidak biasa. Contoh mencolok dari penerapan arsitektur AI yang tidak standar adalah model GameNGen, yang mampu menciptakan kembali gameplay penembak klasik DOOM secara real-time.

Sumber: GameNGen/Github GameNGen tidak mensimulasikan game dalam arti biasa, tetapi secara berurutan menghasilkan video: model memprediksi bagaimana bingkai berikutnya akan terlihat setelah tindakan pengguna (misalnya, gerakan atau tembakan). Karena itu, musuh, objek, dan perubahan pemandangan tidak "dihitung" oleh mesin, tetapi direproduksi secara visual sebagai hasil yang paling mungkin.

Di antara sistem otonom, menonjol proyek Voyager — agen AI untuk Minecraft. Ia secara mandiri menjelajahi dunia game, mengumpulkan sumber daya, dan terus belajar sendiri.

Komunitas ilmiah juga secara aktif mengadaptasi AI terbuka untuk kebutuhannya, misalnya, menggunakan algoritma untuk menguraikan sejarah. Dengan demikian, para peneliti dari Universitas Tel Aviv dan Munich melatih model Akkademia untuk langsung menerjemahkan aksara paku Akkadia kuno ke dalam bahasa Inggris. Model ini memungkinkan pemrosesan ribuan tablet tanah liat yang rusak, mempercepat pekerjaan arkeolog puluhan kali lipat.

Tidak kalah menarik adalah proyek MinD-Vis. Sistem ini menganalisis data MRI fungsional dan mencoba merekonstruksi gambar yang diamati subjek pada saat pemindaian. Artinya, ia menghasilkan interpretasi dari apa yang dilihat manusia berdasarkan pola aktivitas otak.

Inisiatif semacam itu membuktikan bahwa kecerdasan buatan telah berubah menjadi alat universal untuk memahami dan memodelkan realitas. Peralihan inisiatif dari API perusahaan tertutup ke kode sumber terbuka membentuk paradigma baru dalam pengembangan teknologi. Saat ini, setiap peneliti, pengembang, atau penggemar memiliki kesempatan untuk men-deploy infrastruktur yang beberapa tahun lalu memerlukan investasi jutaan dolar di lahan server.

Perkembangan ekosistem pasti disertai dengan peningkatan pengalaman pengguna: skrip kompleks digantikan oleh antarmuka intuitif dan lingkungan deployment otomatis. Penggunaan alat seperti Ollama dan Forge menunjukkan bahwa privasi, tidak adanya sensor, dan kinerja tinggi dapat hidup berdampingan secara harmonis dalam satu solusi perangkat lunak. Masa depan industri AI saat ini sangat bergantung pada seberapa kuat, terukur, dan mandirinya ekosistem terbuka tetap ada.