OPML: Blok Zinciri sistemindeki Optimistic makine öğrenimi

OPML(Optimistik Makine Öğrenimi), yeni bir Blok Zinciri AI modeli çıkarım ve eğitim yöntemidir. ZKML ile karşılaştırıldığında, OPML daha düşük maliyetle ve daha yüksek verimlilikle makine öğrenimi hizmeti sunabilir. OPML'nin donanım gereksinimleri düşüktür, sıradan bir PC, 7B-LLaMA( gibi büyük dil modellerini GPU olmadan çalıştırabilir, yaklaşık 26GB).

OPML, ML hizmetinin merkeziyetsizliğini ve doğrulanabilir konsensüsünü sağlamak için doğrulama oyun mekanizması kullanır:

1. Talep eden ML hizmet görevi başlatır.
2. Sunucu görevi tamamlar ve sonucu blok zincirine gönderir.
3. Doğrulayıcı sonuçları kontrol eder, itiraz varsa doğrulama oyununu başlatır.
4. Sonunda akıllı sözleşme üzerinde adım adım tahkim yapılır.

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı OPML'nin ana noktaları:

• Zincir dışı yürütme ve zincir içi tahkim için eşdeğer sanal makine (VM)
• Özel hafif DNN kütüphanesi gerçekleştirin, AI çıkarım verimliliğini artırın
• AI modelinin çıkarım kodunu VM talimatları için çapraz derleme
• VM görüntülerini yönetmek için Merkle ağacını kullanın, yalnızca kök hash'i zincire yükleyin

İkili protokol, anlaşmazlık adımlarını belirlemek ve bunları zincir üzerindeki tahkim sözleşmesine göndermek için kullanılır.

Performans testi, temel AI modeli ( MNIST sınıflandırma DNN )'in VM'de 2 saniye içinde çıkarım yaptığını, tüm zorluk sürecinin yerel Ethereum test ağında 2 dakika içinde tamamlandığını gösteriyor.

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı protokolün sınırlamalarını aşmak için çok aşamalı OPML'yi öneriyoruz:

• Sadece son aşama VM'de hesaplanır, diğer aşamalar yerel ortamda gerçekleştirilebilir.
• CPU, GPU, TPU gibi donanım hızlandırmalarını kullanarak performansı artırın
• Aşama geçişlerinin bütünlüğünü ve güvenliğini sağlamak için Merkle ağaçları kullanın

LLaMA modelini örnek alan iki aşamalı OPML:

1. İkinci aşama: Hesaplama grafiği üzerinde doğrulama oyunu oynamak, çoklu iş parçacığı CPU veya GPU kullanılabilir.
2. İlk Aşama: Tekil düğüm hesaplamasını VM talimatlarına dönüştürme

Çok aşamalı yöntem, özellikle karmaşık hesaplamalar için doğrulama verimliliğini önemli ölçüde artırdı.

Performans İyileştirmeleri

Varsayalım ki DNN hesaplama grafiğinde n düğüm var, her düğüm m VM talimatı gerektiriyor, GPU hızlandırma oranı α:

1. İki aşamalı OPML, tek aşamalıdan α kat daha hızlıdır.
2. İki aşamalı OPML'in Merkle ağacının boyutu O(m+n) olup, tek aşamalının O(mn)'undan çok daha küçüktür.

Çok aşamalı çerçeve, hesaplama verimliliğini ve sistem ölçeklenebilirliğini büyük ölçüde artırdı.

Tutarlılık ve Belirlilik

Farklı donanım platformlarındaki kesirli sayı hesaplamalarındaki tutarsızlık sorununu çözmek için OPML şunları kullanır:

1. Kesirli Algoritma ( nicem teknolojisi ): Sabit hassasiyet kullanarak kayan noktalı sayının yerine geçmek.
2. Yazılım Tabanlı Çoklu Platform Uyumlu Kesirli Sayı Kütüphanesi

Bu yöntemler OPML hesaplama sonuçlarının tutarlılığını ve güvenilirliğini sağlamaktadır.

OPML vs ZKML

OPML, ZKML'ye göre aşağıdaki avantajlara sahiptir:

• Daha düşük donanım gereksinimleri
• Daha hızlı yürütme hızı
• Daha büyük model ölçeklerini destekler
• Daha geniş ML görevleri için uygundur

Şu anda OPML, model çıkarımına odaklanıyor, ancak çerçeve aynı zamanda model eğitim sürecini de destekliyor. OPML projesi hala devam eden bir geliştirme aşamasında ve ilgilenen geliştiricileri katkıda bulunmaya davet ediyor.