OPML: Menggunakan pendekatan optimis untuk mengoptimalkan pembelajaran mesin di blockchain
OPML(Optimistic Pembelajaran Mesin) adalah teknologi baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi, dapat memberikan layanan ML yang lebih nyaman bagi pengguna.
Salah satu fitur utama OPML adalah ambang partisipasi yang rendah. Bahkan PC biasa tanpa GPU pun dapat menjalankan OPML yang mencakup model bahasa besar seperti 7B-LLaMA berukuran 26GB, termasuk (.
Untuk memastikan desentralisasi dan konsensus yang dapat diverifikasi dari layanan ML, OPML mengadopsikan mekanisme permainan verifikasi, mirip dengan sistem Truebit dan Optimistic Rollup. Proses dasarnya adalah sebagai berikut:
Pemohon memulai tugas layanan ML
Server menyelesaikan tugas dan mengunggah hasilnya ke on-chain
Validator memverifikasi hasil, jika ada keberatan maka memulai permainan verifikasi.
Menentukan langkah kesalahan secara akurat melalui protokol biner
Melakukan arbitrase langkah tunggal di atas kontrak pintar
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(
Permainan Verifikasi Satu Tahap
Inti dari permainan verifikasi satu tahap adalah protokol penentuan lokasi yang tepat, yang cara kerjanya mirip dengan perhitungan delegasi )RDoC(. Ketika beberapa pihak melakukan program yang sama, mereka dapat menemukan langkah-langkah yang diperdebatkan melalui saling mempertanyakan dan menyerahkannya ke kontrak pintar di Blockchain untuk arbitrase.
Permainan verifikasi satu tahap OPML memiliki ciri-ciri berikut:
Membangun mesin virtual )VM( untuk eksekusi off-chain dan arbitrase on-chain, menjamin kesetaraan keduanya.
Mewujudkan perpustakaan DNN ringan khusus, meningkatkan efisiensi inferensi model AI
Menggunakan teknologi kompilasi silang, mengkompilasi kode inferensi model AI menjadi instruksi VM
Menggunakan pohon Merkle untuk mengelola gambar VM, hanya mengunggah akar Merkle ke on-chain
Setelah menentukan langkah-langkah sengketa melalui protokol biner, kirimkan ke kontrak arbitrase di Blockchain. Pengujian menunjukkan bahwa, di PC biasa, inferensi model AI dasar )MNIST klasifikasi DNN( dapat diselesaikan dalam waktu 2 detik, dan seluruh proses tantangan memakan waktu sekitar 2 menit.
![OPML：Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(
Game Verifikasi Multi-Tahap
Keterbatasan permainan verifikasi satu tahap terletak pada kenyataan bahwa semua perhitungan harus dilakukan di dalam VM, yang tidak dapat memanfaatkan akselerasi GPU/TPU atau pemrosesan paralel secara maksimal. Untuk mengatasi masalah ini, OPML mengusulkan perluasan protokol multi-tahap.
Gagasan inti dari protokol multi-tahap adalah: hanya menghitung di VM pada tahap terakhir, sementara tahap lainnya dapat dieksekusi secara fleksibel di lingkungan lokal, memanfaatkan CPU, GPU, TPU, bahkan kemampuan pemrosesan paralel secara maksimal. Ini secara signifikan meningkatkan efisiensi eksekusi OPML, mendekatkannya dengan tingkat kinerja lingkungan lokal.
Sebagai contoh permainan verifikasi dua tahap )k=2(:
Tahap 2: Transisi status yang sesuai mengubah konteks perhitungan "instruksi besar"
Tahap 1: Mirip dengan permainan verifikasi satu tahap, transisi status sesuai dengan satu instruksi mikro VM.
Pengirim dan validator pertama-tama memulai permainan verifikasi di tahap 2, menentukan "perintah besar" yang diperdebatkan. Kemudian masuk ke tahap 1, menentukan instruksi mikro VM yang diperdebatkan, dan akhirnya mengirimkannya ke arbitrase blockchain.
Untuk memastikan integritas dan keamanan transisi antar tahap, OPML bergantung pada pohon Merkle, mengambil sub-pohon dari tahap tinggi untuk memastikan kontinuitas proses verifikasi.
![OPML：Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
Aplikasi OPML Multi-Tahap dalam Model LLaMA
Dalam model LLaMA, OPML menggunakan metode dua tahap:
Mewakili proses perhitungan ML/DNN sebagai grafik perhitungan G, setiap simpul menyimpan hasil perhitungan sementara.
Inferensi model adalah proses perhitungan pada grafik komputasi, seluruh grafik mewakili status inferensi.
Tahap 2 melakukan verifikasi permainan di grafik komputasi, dapat menggunakan CPU atau GPU multithread.
Tahap 1 akan mengubah perhitungan node tunggal menjadi instruksi VM, mirip dengan protokol satu tahap.
Ketika perhitungan node tunggal masih kompleks, lebih banyak tahap dapat diperkenalkan untuk lebih meningkatkan efisiensi.
Analisis Peningkatan Kinerja
Misalkan graf perhitungan memiliki n node, setiap node membutuhkan m instruksi mikro VM, rasio percepatan GPU/perhitungan paralel adalah α:
OPML dua tahap lebih cepat α kali dibandingkan satu tahap
Ukuran pohon Merkle OPML dua tahap adalah O)m+n(, jauh lebih kecil daripada tahap tunggal O)mn(
Desain multi-tahap tidak hanya meningkatkan efisiensi komputasi, tetapi juga meningkatkan skalabilitas sistem.
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Jaminan Konsistensi dan Determinasi
Untuk memastikan konsistensi hasil ML lintas platform, OPML telah mengambil dua langkah kunci:
Menggunakan algoritma titik tetap ) teknologi kuantifikasi (, untuk merepresentasikan dan mengeksekusi perhitungan dengan presisi tetap.
Menggunakan perpustakaan floating-point berbasis perangkat lunak untuk memastikan konsistensi fungsional lintas platform
Teknologi ini secara efektif mengatasi tantangan yang ditimbulkan oleh variabel floating point dan perbedaan platform, meningkatkan integritas dan keandalan perhitungan OPML.
OPML vs ZKML
OPML memiliki keuntungan berikut dibandingkan ZKML:
Biaya komputasi dan penyimpanan yang lebih rendah
Efisiensi eksekusi yang lebih tinggi
Mendukung model yang lebih besar
Lebih mudah untuk diimplementasikan dan diterapkan
Saat ini OPML terutama berfokus pada inferensi model, tetapi kerangka kerja ini juga mendukung pelatihan model, yang dapat digunakan untuk berbagai tugas pembelajaran mesin. Proyek OPML masih dalam pengembangan aktif, dan kami mengundang pengembang yang tertarik untuk berkontribusi.
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
14 Suka
Hadiah
14
7
Bagikan
Komentar
0/400
HashBandit
· 7jam yang lalu
masih lebih murah dari rig penambangan saya pada tahun 2018 lmao... tapi jujur ini bisa benar-benar menyelesaikan bottleneck l2 kita fr
Lihat AsliBalas0
ImpermanentSage
· 14jam yang lalu
Apakah masih ingin bersaing di pasar GPU?
Lihat AsliBalas0
ProofOfNothing
· 08-03 12:28
Bukankah mekanisme permainan ini hanya meniru truebit?
Lihat AsliBalas0
MentalWealthHarvester
· 08-03 12:15
Web3 suckers Schrödinger
Lihat AsliBalas0
StakeWhisperer
· 08-03 12:15
Ini adalah konsep baru untuk memanfaatkan para suckers tanpa biaya!
Lihat AsliBalas0
MysteryBoxBuster
· 08-03 12:01
Akhirnya tidak perlu zk untuk segala hal
Lihat AsliBalas0
PancakeFlippa
· 08-03 12:00
Tanpa GPU juga bisa menjalankan model besar, tanya siapa lagi.
OPML: Solusi Pembelajaran Mesin Efisien Baru di Blockchain
OPML: Menggunakan pendekatan optimis untuk mengoptimalkan pembelajaran mesin di blockchain
OPML(Optimistic Pembelajaran Mesin) adalah teknologi baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML memiliki keuntungan biaya rendah dan efisiensi tinggi, dapat memberikan layanan ML yang lebih nyaman bagi pengguna.
Salah satu fitur utama OPML adalah ambang partisipasi yang rendah. Bahkan PC biasa tanpa GPU pun dapat menjalankan OPML yang mencakup model bahasa besar seperti 7B-LLaMA berukuran 26GB, termasuk (.
Untuk memastikan desentralisasi dan konsensus yang dapat diverifikasi dari layanan ML, OPML mengadopsikan mekanisme permainan verifikasi, mirip dengan sistem Truebit dan Optimistic Rollup. Proses dasarnya adalah sebagai berikut:
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(
Permainan Verifikasi Satu Tahap
Inti dari permainan verifikasi satu tahap adalah protokol penentuan lokasi yang tepat, yang cara kerjanya mirip dengan perhitungan delegasi )RDoC(. Ketika beberapa pihak melakukan program yang sama, mereka dapat menemukan langkah-langkah yang diperdebatkan melalui saling mempertanyakan dan menyerahkannya ke kontrak pintar di Blockchain untuk arbitrase.
Permainan verifikasi satu tahap OPML memiliki ciri-ciri berikut:
Setelah menentukan langkah-langkah sengketa melalui protokol biner, kirimkan ke kontrak arbitrase di Blockchain. Pengujian menunjukkan bahwa, di PC biasa, inferensi model AI dasar )MNIST klasifikasi DNN( dapat diselesaikan dalam waktu 2 detik, dan seluruh proses tantangan memakan waktu sekitar 2 menit.
![OPML：Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(
Game Verifikasi Multi-Tahap
Keterbatasan permainan verifikasi satu tahap terletak pada kenyataan bahwa semua perhitungan harus dilakukan di dalam VM, yang tidak dapat memanfaatkan akselerasi GPU/TPU atau pemrosesan paralel secara maksimal. Untuk mengatasi masalah ini, OPML mengusulkan perluasan protokol multi-tahap.
Gagasan inti dari protokol multi-tahap adalah: hanya menghitung di VM pada tahap terakhir, sementara tahap lainnya dapat dieksekusi secara fleksibel di lingkungan lokal, memanfaatkan CPU, GPU, TPU, bahkan kemampuan pemrosesan paralel secara maksimal. Ini secara signifikan meningkatkan efisiensi eksekusi OPML, mendekatkannya dengan tingkat kinerja lingkungan lokal.
Sebagai contoh permainan verifikasi dua tahap )k=2(:
Pengirim dan validator pertama-tama memulai permainan verifikasi di tahap 2, menentukan "perintah besar" yang diperdebatkan. Kemudian masuk ke tahap 1, menentukan instruksi mikro VM yang diperdebatkan, dan akhirnya mengirimkannya ke arbitrase blockchain.
Untuk memastikan integritas dan keamanan transisi antar tahap, OPML bergantung pada pohon Merkle, mengambil sub-pohon dari tahap tinggi untuk memastikan kontinuitas proses verifikasi.
![OPML：Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(
Aplikasi OPML Multi-Tahap dalam Model LLaMA
Dalam model LLaMA, OPML menggunakan metode dua tahap:
Ketika perhitungan node tunggal masih kompleks, lebih banyak tahap dapat diperkenalkan untuk lebih meningkatkan efisiensi.
Analisis Peningkatan Kinerja
Misalkan graf perhitungan memiliki n node, setiap node membutuhkan m instruksi mikro VM, rasio percepatan GPU/perhitungan paralel adalah α:
Desain multi-tahap tidak hanya meningkatkan efisiensi komputasi, tetapi juga meningkatkan skalabilitas sistem.
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(
Jaminan Konsistensi dan Determinasi
Untuk memastikan konsistensi hasil ML lintas platform, OPML telah mengambil dua langkah kunci:
Teknologi ini secara efektif mengatasi tantangan yang ditimbulkan oleh variabel floating point dan perbedaan platform, meningkatkan integritas dan keandalan perhitungan OPML.
OPML vs ZKML
OPML memiliki keuntungan berikut dibandingkan ZKML:
Saat ini OPML terutama berfokus pada inferensi model, tetapi kerangka kerja ini juga mendukung pelatihan model, yang dapat digunakan untuk berbagai tugas pembelajaran mesin. Proyek OPML masih dalam pengembangan aktif, dan kami mengundang pengembang yang tertarik untuk berkontribusi.
![OPML: Menggunakan sistem Optimistic Rollup untuk pembelajaran mesin])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(