OPML: Optimistik mekanizmasına dayalı verimli Blok Zinciri makine öğrenimi çözümü

OPML (Optimistik Makine Öğrenimi), AI modelinin çıkarım ve eğitim/ince ayarını Optimistik yöntemle gerçekleştiren yeni nesil blok zinciri makine öğrenimi teknolojisidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajlarına sahiptir ve katılım eşiği daha düşüktür. Şu anda, sıradan bir PC, 26GB'lık 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.

OPML, ML hizmetinin merkeziyetsizliği ve doğrulanabilirliğini sağlamak için doğrulama oyun mekanizmasını benimsemektedir. Temel süreç aşağıdaki gibidir:

1. Talep eden ML hizmet görevini başlatır.
2. Sunucu görevi tamamlar ve sonucu blok zincirine gönderir
3. Doğrulayıcı sonuçları kontrol eder, itiraz varsa doğrulama oyunu başlatılır.
4. Akıllı sözleşme ile tek aşamalı tahkim

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı OPML, hesaplama yetkilendirmesine (RDoC) benzer bir hassas konumlandırma protokolü kullanır. Ana özellikler şunlardır:

• Zincir dışı yürütme ve zincir üzeri tahkim için sanal makine (VM) kurma
• Hafif DNN kütüphanesi uygulamak, AI modelinin çıkarım verimliliğini artırmak
• AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullanın
• VM görüntüleri Merkle ağacı ile yönetilir, yalnızca kök hash'ı zincire yüklenir.

Performans testleri, temel AI modelinin (MNIST sınıflandırma DNN) PC'de 2 saniye içinde VM çıkarımı yapabileceğini gösterdi, tüm zorluk süreci yerel Ethereum test ortamında 2 dakikada tamamlanabiliyor.

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı protokolün sınırlamalarını aşmak için, OPML çok aşamalı protokolü tanıttı, böylece GPU/TPU ve paralel işleme yeteneklerinden tam anlamıyla yararlanılabiliyor. Çok aşamalı OPML'nin ana avantajları:

• Sadece son aşama VM'de hesaplanır, diğer aşamalar yerel ortamda yürütülebilir.
• Yerel ortam seviyesine yakın bir şekilde yürütme performansını önemli ölçüde artırma
• Aşama arası dönüşümlerin bütünlüğünü ve güvenliğini sağlamak için Merkle ağacı kullanılır.

LLaMA modelini örnek alarak, iki aşamalı OPML yöntemi aşağıdaki gibidir:

1. ML hesaplama sürecini hesaplama grafiği olarak göster
2. Hesaplama grafi üzerinde doğrulama oyunu (İkinci aşama)
3. Tartışmalı düğümlerin hesaplamalarını VM talimatlarına dönüştürme (ilk aşama)

Çok aşamalı OPML, tek aşamalı çözüme kıyasla α katı hesaplama hızlandırması sağlayabilir (α, GPU veya paralel hesaplamanın hızlandırma oranıdır). Ayrıca, çok aşamalı çözümün Merkle ağacı boyutu önemli ölçüde küçülür, bu da verimliliği ve ölçeklenebilirliği daha da artırır.

Tutarlılık ve Belirlilik

ML sonuçlarının tutarlılığını sağlamak için OPML aşağıdaki stratejileri benimsemektedir:

1. Kesirli sayılardaki yuvarlama hatalarını azaltmak için sabit nokta algoritması (kuantizasyon tekniği) kullanın
2. Yazılım tabanlı kayan nokta kütüphanesi kullanarak, platformlar arası tutarlılığı sağlamak

Bu yöntemler, kayan nokta değişkenleri ve platform farklılıklarından kaynaklanan zorlukların üstesinden gelerek OPML hesaplamalarının güvenilirliğini artırmıştır.

OPML vs ZKML

OPML'nin ZKML'ye göre aşağıdaki avantajları vardır:

• Daha düşük donanım gereksinimleri
• Daha yüksek yürütme verimliliği
• Daha büyük ölçekli modelleri destekler
• Model eğitimi yapılabilir (ZKML yalnızca çıkarım destekler)

Dikkate değer bir nokta, OPML projesinin hala geliştirilmekte olduğu ve ilgilenen geliştiricilerin katkıda bulunmaya davet edildiğidir.