OPML: Pembelajaran Mesin Optimis di Sistem Blockchain
OPML(Optimistic Machine Learning) adalah metode baru untuk inferensi dan pelatihan model AI blockchain. Dibandingkan dengan ZKML, OPML dapat menyediakan layanan machine learning dengan biaya yang lebih rendah dan efisiensi yang lebih tinggi. Persyaratan perangkat keras OPML cukup rendah, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA( tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi:
Pengaju memulai tugas layanan ML
Server menyelesaikan tugas dan mengirimkan hasil ke Blockchain
Validator memeriksa hasil, jika ada keberatan maka memulai permainan verifikasi
Akhirnya melakukan arbitrase langkah demi langkah di kontrak pintar
Permainan Verifikasi Satu Tahap
Poin kunci OPML satu tahap:
Membangun mesin virtual yang setara untuk eksekusi off-chain dan arbitrase on-chain (VM)
Mewujudkan perpustakaan DNN ringan khusus, meningkatkan efisiensi inferensi AI
Mengompilasi silang kode inferensi model AI menjadi instruksi VM
Menggunakan pohon Merkle untuk mengelola gambar VM, hanya mengunggah hash akar ke rantai
Protokol dua bagian digunakan untuk mengidentifikasi langkah-langkah yang dipertentangkan dan mengirimkannya ke kontrak arbitrase di blockchain.
Pengujian kinerja menunjukkan, model AI dasar ( klasifikasi MNIST DNN ) menyelesaikan inferensi dalam 2 detik di VM, seluruh proses tantangan selesai dalam waktu 2 menit di jaringan pengujian Ethereum lokal.
Permainan Verifikasi Multi-Tahap
Untuk mengatasi keterbatasan protokol satu tahap, kami mengusulkan OPML multi-tahap:
Hanya tahap terakhir yang dihitung di VM, tahap lainnya dapat dijalankan di lingkungan lokal
Memanfaatkan akselerasi perangkat keras seperti CPU, GPU, TPU, untuk meningkatkan kinerja
Menggunakan pohon Merkle untuk memastikan integritas dan keamanan transisi antar tahap
Contoh dua tahap OPML dengan model LLaMA:
Tahap kedua: Melakukan permainan verifikasi pada grafik perhitungan, dapat menggunakan CPU atau GPU multi-thread.
Tahap Pertama: Mengubah perhitungan node tunggal menjadi instruksi VM
Metode multi-tahap secara signifikan meningkatkan efisiensi verifikasi, terutama untuk perhitungan yang kompleks.
Peningkatan Kinerja
Misalkan grafik komputasi DNN memiliki n node, setiap node memerlukan m instruksi VM, rasio percepatan GPU adalah α:
OPML dua fase lebih cepat α kali dibandingkan fase tunggal
Ukuran pohon Merkle OPML dua tahap adalah O(m+n), jauh lebih kecil daripada tahap tunggal O(mn)
Kerangka multistage secara signifikan meningkatkan efisiensi komputasi dan skalabilitas sistem.
Konsistensi dan Determinisme
Untuk mengatasi masalah ketidakcocokan perhitungan floating point di berbagai platform perangkat keras, OPML menggunakan:
Algoritma titik tetap ( teknologi kuantifikasi ): menggunakan presisi tetap sebagai pengganti bilangan pecahan
Perpustakaan floating point konsisten lintas platform berbasis perangkat lunak
Metode ini memastikan konsistensi dan keandalan hasil perhitungan OPML.
OPML vs ZKML
OPML memiliki keunggulan berikut dibandingkan ZKML:
Persyaratan perangkat keras yang lebih rendah
Kecepatan eksekusi yang lebih cepat
Mendukung skala model yang lebih besar
Cocok untuk tugas ML yang lebih luas
Saat ini OPML terutama berfokus pada inferensi model, tetapi kerangka kerja juga mendukung proses pelatihan model. Proyek OPML masih dalam pengembangan berkelanjutan, dan pengembang yang tertarik dipersilakan untuk berkontribusi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
9 Suka
Hadiah
9
6
Posting ulang
Bagikan
Komentar
0/400
GateUser-ccc36bc5
· 08-14 05:21
Tidak perlu menggunakan komputer jelek tanpa GPU untuk bermain black box.
Lihat AsliBalas0
ApeShotFirst
· 08-14 02:53
Wah, bahkan kartu grafis pun dihemat, enak sekali!
Lihat AsliBalas0
CryptoSurvivor
· 08-12 05:51
Beri kakek muntah
Lihat AsliBalas0
BearMarketHustler
· 08-12 05:48
Ini bukan justru melegitimasi Perdagangan Mata Uang Kripto yang curang?
Lihat AsliBalas0
SmartContractWorker
· 08-12 05:28
Tidak perlu GPU? Masih bisa menjalankan llama? Tidak masuk akal...
Lihat AsliBalas0
BugBountyHunter
· 08-12 05:27
zk siapa yang suka penelitian silakan diteliti, gunakan saja sudah selesai.
OPML: Solusi baru AI inferensi efisien di Blockchain lebih cepat dan lebih murah dibandingkan ZKML
OPML: Pembelajaran Mesin Optimis di Sistem Blockchain
OPML(Optimistic Machine Learning) adalah metode baru untuk inferensi dan pelatihan model AI blockchain. Dibandingkan dengan ZKML, OPML dapat menyediakan layanan machine learning dengan biaya yang lebih rendah dan efisiensi yang lebih tinggi. Persyaratan perangkat keras OPML cukup rendah, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA( tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi:
Permainan Verifikasi Satu Tahap
Poin kunci OPML satu tahap:
Protokol dua bagian digunakan untuk mengidentifikasi langkah-langkah yang dipertentangkan dan mengirimkannya ke kontrak arbitrase di blockchain.
Pengujian kinerja menunjukkan, model AI dasar ( klasifikasi MNIST DNN ) menyelesaikan inferensi dalam 2 detik di VM, seluruh proses tantangan selesai dalam waktu 2 menit di jaringan pengujian Ethereum lokal.
Permainan Verifikasi Multi-Tahap
Untuk mengatasi keterbatasan protokol satu tahap, kami mengusulkan OPML multi-tahap:
Contoh dua tahap OPML dengan model LLaMA:
Metode multi-tahap secara signifikan meningkatkan efisiensi verifikasi, terutama untuk perhitungan yang kompleks.
Peningkatan Kinerja
Misalkan grafik komputasi DNN memiliki n node, setiap node memerlukan m instruksi VM, rasio percepatan GPU adalah α:
Kerangka multistage secara signifikan meningkatkan efisiensi komputasi dan skalabilitas sistem.
Konsistensi dan Determinisme
Untuk mengatasi masalah ketidakcocokan perhitungan floating point di berbagai platform perangkat keras, OPML menggunakan:
Metode ini memastikan konsistensi dan keandalan hasil perhitungan OPML.
OPML vs ZKML
OPML memiliki keunggulan berikut dibandingkan ZKML:
Saat ini OPML terutama berfokus pada inferensi model, tetapi kerangka kerja juga mendukung proses pelatihan model. Proyek OPML masih dalam pengembangan berkelanjutan, dan pengembang yang tertarik dipersilakan untuk berkontribusi.