OPML: İyimser Yöntemlere Dayalı Makine Öğrenimi Çerçevesi

Yeni bir çerçeve olan OPML(Optimistik Makine Öğrenimi)'i öneriyoruz; bu çerçeve, blockchain sistemlerinde AI modellerinin çıkarım ve eğitimini verimli bir şekilde gerçekleştirebilmektedir. ZKML ile karşılaştırıldığında, OPML daha düşük maliyet ve daha yüksek verimlilik sunmaktadır. OPML'nin donanım gereksinimleri oldukça düşüktür, sıradan bir PC, GPU olmadan 7B-LLaMA gibi büyük dil modellerini içeren OPML görevlerini çalıştırabilir.

OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilirliğini sağlamak için bir doğrulama oyun mekanizması kullanır. Süreci şu şekildedir:

1. Kullanıcı ML hizmet talebini başlatır
2. Sunucu görevi tamamlar ve sonucu zincire gönderir.
3. Doğrulayıcı sonuçları kontrol eder, itiraz varsa doğrulama oyununu başlatır.
4. Hata adımlarını belirlemek için ikili protokolü kullanın.
5. Son olarak, akıllı sözleşme tarafından adım adım tahkim yapılır.

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı OPML'nin ana noktaları şunlardır:

• Zincir dışı yürütme ve zincir üzeri tahkim için sanal makine(VM)
• Özel hafif DNN kütüphanesi oluşturarak AI çıkarım verimliliğini artırmak
• AI çıkarım kodunu VM talimatlarına derlemek için çapraz derleme teknolojisi kullanın
• Merkle ağacı kullanarak VM imajlarını yönetmek, yalnızca kök hash'ini zincire yüklemek

Temel testlerde, DNN çıkarımını 2 saniye içinde tamamlayabiliyoruz, tüm zorluk süreci 2 dakika içinde tamamlanabilir.

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı planın sınırlamalarını aşmak için çok aşamalı doğrulama oyunu öneriyoruz:

• Sadece son aşamada VM'de hesaplama yapılır, diğer aşamalar esnek bir şekilde gerçekleştirilebilir.
• GPU/TPU hızlandırma ve paralel işleme tam olarak kullanın
• Yerel ortam seviyesine yakın, yürütme performansını önemli ölçüde artırın.
• Aşama arası dönüşümlerin bütünlüğünü ve güvenliğini sağlamak için Merkle ağacı kullanılır.

LLaMA modelini örnek alarak, iki aşamalı OPML yöntemini kullanıyoruz:

• İkinci aşamada hesaplama grafiğinde doğrulama oyunu yapılır, GPU hızlandırması kullanılabilir.
• İlk aşama, tek bir düğüm hesaplamasını VM talimatlarına dönüştür.

Çok aşamalı yöntem, tek aşamalıya kıyasla α katı hesaplama hızlandırması sağlarken, aynı zamanda Merkel ağacının boyutunu önemli ölçüde küçültmektedir.

Tutarlılık ve Kesinlik

ML sonuçlarının tutarlılığını sağlamak için aşağıdaki önlemleri aldık:

1. Sabit nokta algoritması ( nicemleme teknolojisi ) kayan nokta hatası etkisini azaltır.
2. Platformlar arası tutarlı bir yazılım kayan nokta kütüphanesi kullanın

Bu teknolojiler, ondalık değişkenler ve platform farklılıklarının getirdiği zorlukların üstesinden etkili bir şekilde gelerek OPML hesaplamalarının güvenilirliğini artırmıştır.

OPML hâlâ geliştirilmekte. Bu projeye ilgi duyan kişileri katılmaya ve OPML'in gelişimine katkıda bulunmaya davet ediyoruz.