Tether Memperluas Data Pelatihan Open AI Dengan Rilis Dataset QVAC Genesis II

Temukan berita dan acara fintech teratas!

Berlangganan buletin FinTech Weekly

Dibaca oleh para eksekutif di JP Morgan, Coinbase, Blackrock, Klarna, dan lainnya

Ekspansi Besar dalam Data Pelatihan Open AI

Tether Data telah merilis versi baru dari kumpulan data pendidikan sintetisnya untuk kecerdasan buatan, secara signifikan meningkatkan volume dan cakupan materi pelatihan terbuka yang tersedia bagi peneliti di seluruh dunia. Divisi riset AI perusahaan, QVAC, mengumumkan bahwa rilis baru tersebut, yang bernama QVAC Genesis II, menambahkan 107 miliar token ke kumpulan data sebelumnya, sehingga total ukurannya menjadi 148 miliar token.

Kumpulan data yang diperluas kini menjadi sumber pendidikan sintetis publik terbesar yang dirancang khusus untuk prapelatihan AI. Kumpulan data ini mencakup 19 domain akademik dan dimaksudkan untuk meningkatkan cara model belajar penalaran, penjelasan, dan pengambilan keputusan, bukan sekadar pengenalan pola pada level permukaan.

Pengumuman tersebut memposisikan rilis ini sebagai langkah menuju pengembangan AI yang lebih transparan dan mudah diakses, pada saat banyak kumpulan data pelatihan tingkat lanjut masih terkunci dalam sistem milik perusahaan.

Bertumpu pada Rilis Genesis Pertama

QVAC Genesis II dibangun di atas pekerjaan yang pertama kali diperkenalkan dengan QVAC Genesis I, yang berfokus pada penciptaan kumpulan data sintetis yang tervalidasi dan berpusat pada pendidikan, mencakup mata pelajaran inti sains, teknologi, teknik, dan matematika. Rilis sebelumnya tersebut menetapkan kerangka kerja untuk menghasilkan pertanyaan pelatihan terstruktur yang bertujuan meningkatkan akurasi penalaran.

Rilis baru memperluas cakupan ke sepuluh bidang tambahan, termasuk kimia, ilmu komputer, statistik, pembelajaran mesin, astronomi, geografi, ekonometrika, dan teknik elektro. Rilis ini juga meninjau ulang konten fisika tingkat perguruan tinggi, dengan meregenerasinya menggunakan metodologi yang diperbarui yang dirancang untuk meningkatkan kejelasan konseptual.

Secara bersama-sama, kedua rilis tersebut membentuk apa yang dijelaskan QVAC sebagai kumpulan data pendidikan sintetis paling ekstensif yang pernah dibuat tersedia untuk publik. Kumpulan data ini ditujukan untuk digunakan dalam prapelatihan model bahasa besar dan sistem AI lainnya yang memerlukan materi akademik terstruktur.

Perubahan dalam Cara Data Pelatihan Dihasilkan

Inti dari Genesis II adalah metode generasi data baru yang disebut Option-Level Reasoning. Pendekatan ini berbeda dari banyak teknik data sintetis yang sudah ada dengan fokus tidak hanya pada jawaban yang salah, tetapi juga pada jawaban yang benar.

Alih-alih memperlakukan respons yang benar sebagai akhir dari proses, metode ini menganalisis setiap opsi jawaban dalam soal pilihan ganda. Pilihan yang benar diuraikan untuk memperkuat mengapa pilihan tersebut benar, sedangkan opsi yang salah diperiksa untuk mengatasi miskonsepsi yang umum. Struktur ini memungkinkan model mempelajari penalaran kausal dan logika pengambilan keputusan, bukan sekadar mengaitkan pertanyaan dengan hasil.

Pendekatan ini melengkapi metode Failure Analysis yang diperkenalkan dalam QVAC Genesis I, yang berfokus pada pengambilan nilai dari kesalahan model. Bersama-sama, kedua metode ini membentuk sebuah pipeline di mana setiap pertanyaan yang dihasilkan dirancang agar memberikan nilai instruksional.

Evaluasi independen yang dikutip oleh QVAC menunjukkan bahwa model yang dilatih dengan data Genesis II menunjukkan akurasi penalaran yang lebih tinggi dan menghasilkan jawaban yang lebih jelas dibandingkan dengan model yang dilatih pada kumpulan data sintetis sebelumnya.

Penekanan pada Pemahaman, Bukan Kelancaran

Banyak ekosistem pelatihan AI saat ini bergantung pada perakitan volume teks yang sangat besar, sering kali diambil dari sumber publik, untuk meningkatkan kelancaran berbahasa. Tujuan yang dinyatakan QVAC berbeda dari segi penekanan. Dataset Genesis disusun untuk mengajarkan model bagaimana menalar melalui masalah dan menjelaskan kesimpulan dengan cara yang jelas.

Pimpinan perusahaan telah menunjukkan bahwa maksudnya adalah bergerak melampaui sistem pelatihan yang memprediksi rangkaian teks yang kemungkinan besar, menuju model yang menunjukkan pemahaman terhadap konsep yang mendasarinya. Desain dataset memprioritaskan kejelasan, kausalitas, dan logika, dengan tujuan mengurangi ambiguitas dalam keluaran model.

Pendekatan ini selaras dengan diskusi yang lebih luas dalam riset AI mengenai reliabilitas dan kemampuan menjelaskan, terutama ketika sistem AI digunakan dalam pendidikan, sains, dan konteks pendukung pengambilan keputusan.

Akses Terbuka untuk Peneliti dan Pengembang

Seperti halnya dataset Genesis asli, QVAC Genesis II dirilis secara terbuka. Kumpulan data tersedia di bawah lisensi Creative Commons Attribution–NonCommercial 4.0, yang memungkinkan peneliti, institusi akademik, dan pengembang independen menggunakan serta mempelajari data di luar konteks komersial.

Kumpulan data dan model yang terkait dihosting di Hugging Face, bersama dengan sebuah paper teknis terperinci yang menguraikan metodologi generasi dan hasil evaluasi. Distribusi terbuka ini dimaksudkan untuk menurunkan hambatan bagi peneliti yang tidak memiliki akses ke kumpulan data milik perusahaan berukuran besar.

Dengan mempertahankan lisensi non-komersial, QVAC bertujuan untuk mendukung riset akademik dan berbasis komunitas sambil membatasi eksploitasi komersial langsung.

Mendukung Pengembangan AI yang Terdesentralisasi

Rilis ini juga selaras dengan strategi yang lebih luas yang dijalankan Tether Data untuk mendorong pengembangan AI yang terdesentralisasi. Perusahaan tersebut telah menyatakan bahwa data pelatihan berkualitas tinggi tidak seharusnya dibatasi pada organisasi yang memiliki akses ke infrastruktur cloud terpusat.

Dengan membuat kumpulan data terstruktur skala besar tersedia secara publik, QVAC berupaya memungkinkan pelatihan lokal, eksperimen, dan penerapan model AI. Pendekatan ini dimaksudkan untuk mendukung lingkungan riset yang mungkin memiliki keterbatasan sumber daya komputasi, tetapi kontribusi intelektual tetap signifikan.

Penekanan pada desentralisasi mencerminkan meningkatnya minat untuk mengurangi ketergantungan pada sejumlah kecil platform AI dominan dan mendorong ekosistem riset yang lebih terdistribusi.

Peran Tether dalam Riset AI

QVAC beroperasi sebagai divisi riset AI dari Tether Data. Meskipun Tether dikenal luas karena perannya dalam aset digital dan stablecoin, perusahaan tersebut telah memperluas aktivitasnya ke riset data dan AI dalam beberapa tahun terakhir.

Melalui QVAC, Tether Data berfokus pada pembangunan infrastruktur dan sumber daya yang mendukung riset terbuka. Dataset Genesis merupakan salah satu keluaran yang paling terlihat dari upaya tersebut, memposisikan perusahaan dalam diskusi seputar pengembangan open AI dan data pelatihan yang berfokus pada pendidikan.

Pekerjaan ini juga mencerminkan meningkatnya tumpang tindih antara perusahaan fintech dan riset AI tingkat lanjut, karena perusahaan teknologi finansial semakin berinvestasi pada kemampuan data science dan machine learning.

Perspektif Kepemimpinan tentang Rilis

Pimpinan perusahaan telah membingkai rilis Genesis II sebagai langkah menjauh dari pendekatan pelatihan yang hanya memprioritaskan volume. Fokusnya, menurut pernyataan dari tim eksekutif Tether, adalah mengajarkan sistem AI bagaimana menalar dan menjelaskan, bukan sekadar menghasilkan respons yang lancar.

Paolo Ardoino, CEO Tether, telah menekankan bahwa AI yang andal harus didasarkan pada pemahaman mengapa jawaban itu benar. Ia juga menyatakan bahwa membuat dataset tersedia secara terbuka mencerminkan keyakinan bahwa AI yang lebih kuat dan lebih dapat dijelaskan akan memberi manfaat bagi masyarakat secara keseluruhan.

Pandangan ini sejalan dengan kekhawatiran yang disampaikan para peneliti mengenai keterbatasan model yang dilatih terutama pada teks yang tidak terstruktur.

Cakupan Edukasi dan Penutupan Domain

Gabungan dataset QVAC Genesis I dan Genesis II mencakup 19 domain, dengan konten yang dirancang pada level pendidikan menengah dan tinggi. Materi mencakup mulai dari bidang dasar matematika dan fisika hingga bidang terapan seperti ekonometrika dan pembelajaran mesin.

Setiap domain mencakup pertanyaan terstruktur, penjelasan, dan jalur penalaran yang dimaksudkan untuk meniru bagaimana konsep diajarkan dan dinilai dalam lingkungan pendidikan formal. Desain ini dimaksudkan untuk mendukung tugas prapelatihan yang memerlukan konsistensi logis dan kedalaman konseptual.

Dengan meregenerasi dan memperluas konten menggunakan metode yang ditingkatkan, QVAC bertujuan untuk menyempurnakan cara materi pendidikan direpresentasikan dalam dataset sintetis.

Evaluasi dan Kinerja Model

Menurut evaluasi internal dan independen yang dirujuk oleh QVAC, model yang dilatih dengan data Genesis II menunjukkan kinerja yang meningkat pada tugas-tugas yang sarat penalaran. Ini mencakup menjawab pertanyaan terstruktur, menjelaskan kesimpulan, dan menghindari respons yang ambigu atau saling bertentangan.

Hasil evaluasi menunjukkan bahwa kombinasi Failure Analysis dan Option-Level Reasoning menghasilkan keluaran yang lebih konsisten. Meskipun perusahaan belum memposisikan dataset ini sebagai solusi yang berdiri sendiri, perusahaan telah menyajikannya sebagai fondasi yang kuat untuk pelatihan lanjutan dan fine-tuning.

Para peneliti diharapkan melakukan evaluasi tambahan saat dataset ini semakin luas digunakan di komunitas.

Implikasi untuk Riset Open AI

Rilis kumpulan data besar dan terbuka seperti ini dapat memengaruhi cara peneliti akademik dan independen mendekati pelatihan model. Akses ke data pendidikan terstruktur dalam skala sebesar ini secara tradisional terbatas pada organisasi yang memiliki pendanaan yang kuat.

Dengan menyediakan alternatif, QVAC Genesis II dapat mendukung eksperimen dengan model yang lebih kecil, upaya pelatihan yang terlokalisasi, dan penelitian tentang metode AI yang dapat dijelaskan.

Kumpulan data ini juga dapat berfungsi sebagai tolok ukur untuk proyek data sintetis masa depan yang memprioritaskan kualitas penalaran dibandingkan sekadar ukuran semata.

Posisi dalam Ekosistem AI yang Lebih Luas

QVAC Genesis II masuk ke dalam ekosistem AI yang ditandai oleh pengembangan yang cepat dan meningkatnya konsentrasi sumber daya. Banyak model yang paling mampu dilatih pada kumpulan data milik perusahaan yang tidak dapat diakses untuk ditinjau atau direplikasi.

Dataset terbuka seperti Genesis II menawarkan tandingan, memungkinkan transparansi dan kemajuan bersama. Mereka juga memunculkan pertanyaan tentang bagaimana sumber daya terbuka dapat hidup berdampingan dengan pengembangan AI komersial.

Keterlibatan sebuah perusahaan yang berakar pada fintech dan aset digital menyoroti bagaimana riset AI menarik minat dari berbagai industri di luar perusahaan teknologi tradisional.

Ketersediaan dan Langkah Berikutnya

Dokumentasi teknis lengkap untuk kumpulan data ini, berjudul “QVAC Genesis II: Expanding the Largest and Highest-Quality Multi-domain Educational Synthetic Dataset for Pre-training,” telah dipublikasikan di blog riset QVAC. Akses ke kumpulan data dan model terkait tersedia melalui Hugging Face.

QVAC telah mengindikasikan bahwa perusahaan berencana untuk terus menyempurnakan metodenya dan memperluas cakupan pendidikan dalam rilis-rilis mendatang. Masukan dari komunitas riset diharapkan akan berperan dalam membentuk iterasi berikutnya.

Dorongan Berkelanjutan untuk Fondasi yang Terbuka

Dengan Genesis II, QVAC memperkuat posisinya bahwa data pelatihan terstruktur yang terbuka sangat penting untuk membangun sistem AI yang andal. Rilis ini mencerminkan pandangan bahwa kecerdasan harus didasarkan pada penalaran dan penjelasan, bukan hanya asosiasi statistik.

Seiring sistem AI semakin terintegrasi ke dalam pendidikan, sains, dan layanan keuangan, termasuk aplikasi fintech, kualitas data pelatihan mereka akan tetap menjadi perhatian utama.

Untuk saat ini, kumpulan data Genesis yang diperluas berdiri sebagai kontribusi penting untuk riset open AI, menawarkan skala, struktur, dan aksesibilitas pada tingkat yang jarang terlihat di luar lingkungan milik perusahaan.