OPML: Solusi baru AI inferensi efisien di Blockchain lebih cepat dan lebih murah dibandingkan ZKML

robot
Pembuatan abstrak sedang berlangsung

OPML: Pembelajaran Mesin Optimis di Sistem Blockchain

OPML(Optimistic Machine Learning) adalah metode baru untuk inferensi dan pelatihan model AI blockchain. Dibandingkan dengan ZKML, OPML dapat menyediakan layanan machine learning dengan biaya yang lebih rendah dan efisiensi yang lebih tinggi. Persyaratan perangkat keras OPML cukup rendah, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA( tanpa GPU sekitar 26GB).

OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi:

  1. Pengaju memulai tugas layanan ML
  2. Server menyelesaikan tugas dan mengirimkan hasil ke Blockchain
  3. Validator memeriksa hasil, jika ada keberatan maka memulai permainan verifikasi
  4. Akhirnya melakukan arbitrase langkah demi langkah di kontrak pintar

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Satu Tahap

Poin kunci OPML satu tahap:

  • Membangun mesin virtual yang setara untuk eksekusi off-chain dan arbitrase on-chain (VM)
  • Mewujudkan perpustakaan DNN ringan khusus, meningkatkan efisiensi inferensi AI
  • Mengompilasi silang kode inferensi model AI menjadi instruksi VM
  • Menggunakan pohon Merkle untuk mengelola gambar VM, hanya mengunggah hash akar ke rantai

Protokol dua bagian digunakan untuk mengidentifikasi langkah-langkah yang dipertentangkan dan mengirimkannya ke kontrak arbitrase di blockchain.

Pengujian kinerja menunjukkan, model AI dasar ( klasifikasi MNIST DNN ) menyelesaikan inferensi dalam 2 detik di VM, seluruh proses tantangan selesai dalam waktu 2 menit di jaringan pengujian Ethereum lokal.

OPML:Mengadopsi sistem Optimistic Rollup untuk pembelajaran mesin

Permainan Verifikasi Multi-Tahap

Untuk mengatasi keterbatasan protokol satu tahap, kami mengusulkan OPML multi-tahap:

  • Hanya tahap terakhir yang dihitung di VM, tahap lainnya dapat dijalankan di lingkungan lokal
  • Memanfaatkan akselerasi perangkat keras seperti CPU, GPU, TPU, untuk meningkatkan kinerja
  • Menggunakan pohon Merkle untuk memastikan integritas dan keamanan transisi antar tahap

Contoh dua tahap OPML dengan model LLaMA:

  1. Tahap kedua: Melakukan permainan verifikasi pada grafik perhitungan, dapat menggunakan CPU atau GPU multi-thread.
  2. Tahap Pertama: Mengubah perhitungan node tunggal menjadi instruksi VM

Metode multi-tahap secara signifikan meningkatkan efisiensi verifikasi, terutama untuk perhitungan yang kompleks.

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Peningkatan Kinerja

Misalkan grafik komputasi DNN memiliki n node, setiap node memerlukan m instruksi VM, rasio percepatan GPU adalah α:

  1. OPML dua fase lebih cepat α kali dibandingkan fase tunggal
  2. Ukuran pohon Merkle OPML dua tahap adalah O(m+n), jauh lebih kecil daripada tahap tunggal O(mn)

Kerangka multistage secara signifikan meningkatkan efisiensi komputasi dan skalabilitas sistem.

OPML:Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

Konsistensi dan Determinisme

Untuk mengatasi masalah ketidakcocokan perhitungan floating point di berbagai platform perangkat keras, OPML menggunakan:

  1. Algoritma titik tetap ( teknologi kuantifikasi ): menggunakan presisi tetap sebagai pengganti bilangan pecahan
  2. Perpustakaan floating point konsisten lintas platform berbasis perangkat lunak

Metode ini memastikan konsistensi dan keandalan hasil perhitungan OPML.

OPML vs ZKML

OPML memiliki keunggulan berikut dibandingkan ZKML:

  • Persyaratan perangkat keras yang lebih rendah
  • Kecepatan eksekusi yang lebih cepat
  • Mendukung skala model yang lebih besar
  • Cocok untuk tugas ML yang lebih luas

Saat ini OPML terutama berfokus pada inferensi model, tetapi kerangka kerja juga mendukung proses pelatihan model. Proyek OPML masih dalam pengembangan berkelanjutan, dan pengembang yang tertarik dipersilakan untuk berkontribusi.

OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin

ETH-0.08%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 6
  • Posting ulang
  • Bagikan
Komentar
0/400
GateUser-ccc36bc5vip
· 08-14 05:21
Tidak perlu menggunakan komputer jelek tanpa GPU untuk bermain black box.
Lihat AsliBalas0
ApeShotFirstvip
· 08-14 02:53
Wah, bahkan kartu grafis pun dihemat, enak sekali!
Lihat AsliBalas0
CryptoSurvivorvip
· 08-12 05:51
Beri kakek muntah
Lihat AsliBalas0
BearMarketHustlervip
· 08-12 05:48
Ini bukan justru melegitimasi Perdagangan Mata Uang Kripto yang curang?
Lihat AsliBalas0
SmartContractWorkervip
· 08-12 05:28
Tidak perlu GPU? Masih bisa menjalankan llama? Tidak masuk akal...
Lihat AsliBalas0
BugBountyHuntervip
· 08-12 05:27
zk siapa yang suka penelitian silakan diteliti, gunakan saja sudah selesai.
Lihat AsliBalas0
  • Sematkan
Perdagangkan Kripto Di Mana Saja Kapan Saja
qrCode
Pindai untuk mengunduh aplikasi Gate
Komunitas
Bahasa Indonesia
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)