OPML: Blok Zinciri üzerindeki makine öğrenimini optimize etmek için iyimser bir yöntem kullanma

OPML(Optimistik Makine Öğrenimi), blok zinciri sistemlerinde AI modelinin çıkarımı ve eğitimi/ince ayarını gerçekleştiren yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML düşük maliyet ve yüksek verimlilik avantajlarına sahiptir ve kullanıcılara daha pratik ML hizmetleri sunabilir.

OPML'in en büyük özelliklerinden biri, katılımın düşük bir eşiğe sahip olmasıdır. GPU'su olmayan sıradan bir PC bile, 26 GB boyutundaki 7B-LLaMA( gibi büyük dil modellerini içeren OPML'i çalıştırabilir.

ML hizmetinin merkeziyetsizliğini ve doğrulanabilir uzlaşıyı sağlamak için, OPML doğrulama oyunu mekanizmasını benimsemiştir, bu Truebit ve Optimistic Rollup sistemlerine benzer. Temel akış aşağıdaki gibidir:

1. Talep eden ML hizmet görevini başlatır.
2. Sunucu görevi tamamladı ve sonucu on-chain yaptı.
3. Doğrulayıcılar sonuçları doğrular, eğer bir itiraz varsa doğrulama oyunu başlatılır.
4. Hata adımlarını ikili protokol ile kesin olarak belirleyin
5. Akıllı sözleşme üzerinde tek adımlı tahkim gerçekleştirme

![OPML：Optimistik Rollup sistemini kullanan makine öğrenimi])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(

Tek Aşamalı Doğrulama Oyunu

Tek aşamalı doğrulama oyununun temeli, kesin konumlandırma protokolüdür; çalışması, hesaplama taahhüdü )RDoC( ile benzerdir. Birden fazla katılımcı aynı programı çalıştırdığında, karşılıklı sorgulama yoluyla tartışmalı adımlar tespit edilebilir ve bunlar blok zincirindeki akıllı sözleşmelere aracılık için sunulabilir.

OPML'in tek aşamalı doğrulama oyununun aşağıdaki özellikleri vardır:

• Off-chain yürütme ve on-chain tahkim için )VM( sanal makinesi oluşturuldu, her ikisinin eşdeğerliğini garanti etti.
• Özel bir hafif DNN kütüphanesi geliştirildi, AI modelinin çıkarım verimliliğini artırdı
• Çapraz derleme teknolojisi kullanarak, AI modelinin çıkarım kodunu VM talimatlarına derleyin.
• VM görüntülerini yönetmek için Merkle ağacı kullanarak, sadece Merkle kökünü on-chain yükleyin.

İki taraflı protokol ile ihtilaf adımları belirlendikten sonra, bunlar blok zincirindeki hakemlik sözleşmesine gönderilecektir. Testler, sıradan bir PC'de, temel AI modelinin )MNIST sınıflandırma DNN('in çıkarımının 2 saniyede tamamlanabileceğini ve tüm zorluk sürecinin yaklaşık 2 dakika sürdüğünü göstermektedir.

![OPML：Optimistik Rollup sistemi kullanan makine öğrenimi])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(

Çok Aşamalı Doğrulama Oyunu

Tek aşamalı doğrulama oyunlarının sınırlılığı, tüm hesaplamaların VM içinde gerçekleştirilmesi gerektiğidir; bu da GPU/TPU hızlandırmasını veya paralel işlemi yeterince kullanamamaktadır. Bu sorunu çözmek için, OPML çok aşamalı protokol genişlemesini önermiştir.

Çok aşamalı protokolün temel fikri şudur: yalnızca son aşamada VM'de hesaplama yapmak, diğer aşamalar yerel ortamda esnek bir şekilde yürütülebilir, CPU, GPU, TPU hatta paralel işleme yeteneklerinden tam olarak yararlanılır. Bu, OPML'nin yürütme verimliliğini önemli ölçüde artırır ve yerel ortamın performans seviyesine yaklaşmasını sağlar.

İki aşamalı )k=2( oyununu doğrulama örneği olarak:

• 2. Aşama: Durum dönüşümü, hesaplama bağlamında "büyük talimatı" değiştirmeyi ifade eder.
• 1. Aşama: Tek aşamalı doğrulama oyunu gibi, durum geçişleri tek bir VM mikro komutuna karşılık gelir.

Gönderenler ve doğrulayıcılar önce 2. aşamada doğrulama oyununu başlatır, tartışmalı "büyük talimatı" belirler. Daha sonra 1. aşamaya geçer, tartışmalı VM mikro talimatlarını belirler ve nihayetinde Blok Zinciri tahkimine gönderir.

Aşamalar arası geçişin bütünlüğünü ve güvenliğini sağlamak için, OPML Merkle ağaçlarına dayanır, doğrulama sürecinin sürekliliğini sağlamak için üst düzey aşamadan alt ağaçlar çıkarır.

![OPML: Optimistik Rollup sistemini kullanan makine öğrenimi])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(

Çok Aşamalı OPML'nin LLaMA Modelindeki Uygulamaları

LLaMA modelinde, OPML iki aşamalı bir yöntem kullanır:

1. ML/DNN hesaplama sürecini hesaplama grafiği G olarak temsil edin, her düğüm ara hesaplama sonuçlarını saklar.
2. Model çıkarımı, hesaplama grafiği üzerindeki hesaplama sürecidir; tüm grafik çıkarım durumunu temsil eder.
3. İkinci aşama, hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirir, çok iş parçacıklı CPU veya GPU kullanılabilir.
4. 1. aşama, tek bir düğüm hesaplamasını VM talimatlarına dönüştürür, tek aşamalı protokole benzer.

Bireysel bir düğüm hesaplaması hala karmaşık olduğunda, verimliliği daha da artırmak için daha fazla aşama eklenebilir.

Performans Artışı Analizi

Varsayalım ki hesaplama grafiğinde n düğüm var, her düğüm için m adet VM mikro komutu gereklidir, GPU/paralel hesaplama hızlandırma oranı α:

1. İki aşamalı OPML, tek aşamalıya göre α kat daha hızlıdır.
2. İki aşamalı OPML'in Merkle ağacı boyutu O)m+n(, tek aşamalının O)mn('den önemli ölçüde daha küçüktür.

Çok aşamalı tasarım, yalnızca hesaplama verimliliğini artırmakla kalmaz, aynı zamanda sistemin ölçeklenebilirliğini de güçlendirir.

![OPML：Optimistik Rollup sistemi kullanan makine öğrenimi])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(

Tutarlılık ve Belirlilik Güvencesi

ML sonuçlarının platformlar arası tutarlılığını sağlamak için, OPML iki ana önlem aldı:

1. Sabit nokta algoritması ) ile niceliksel teknoloji ( kullanarak sabit hassasiyetle hesaplama yapma ve yürütme.
2. Yazılım tabanlı bir kayan nokta kütüphanesi kullanarak, çapraz platform işlevselliği tutarlılığını sağlamak

Bu teknolojiler, kayan nokta değişkenleri ve platform farklılıklarının getirdiği zorlukları etkili bir şekilde aşarak OPML hesaplamalarının bütünlüğünü ve güvenilirliğini artırmıştır.

OPML vs ZKML

OPML, ZKML'ye kıyasla aşağıdaki avantajlara sahiptir:

• Daha düşük hesaplama ve depolama maliyeti
• Daha yüksek yürütme verimliliği
• Daha büyük ölçekli modelleri destekler.
• Daha kolay uygulamak ve dağıtmak

Şu anda OPML, model çıkarımına odaklanmaktadır, ancak çerçeve model eğitimini de desteklemekte ve çeşitli makine öğrenimi görevleri için kullanılabilmektedir. OPML projesi hala aktif olarak geliştirilmektedir, ilgi duyan geliştiricileri katkıda bulunmaya davet ediyoruz.

![OPML：Optimistik Rollup sistemi kullanan makine öğrenimi])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(