Pengantar

Di era digital, kekuatan komputasi telah menjadi elemen penting dari kemajuan teknologi. Ini menentukan sumber daya yang diperlukan komputer untuk memproses operasi, termasuk memori, kecepatan prosesor, dan jumlah prosesor. Sumber daya ini secara langsung memengaruhi kinerja dan biaya perangkat, terutama saat menangani beberapa program secara bersamaan. Dengan adopsi luas teknologi kecerdasan buatan dan deep learning, permintaan akan sumber daya komputasi berkinerja tinggi, seperti GPU, melonjak, menyebabkan kelangkaan pasokan global.

Unit Pemrosesan Pusat (CPU) memainkan peran penting sebagai inti dari sebuah komputer, sementara Unit Pemrosesan Grafis (GPU) secara signifikan meningkatkan efisiensi komputasi dengan menangani tugas-tugas paralel. CPU yang lebih kuat dapat memproses operasi lebih cepat, dan GPU secara efektif mendukung tuntutan komputasi yang semakin meningkat.

Apa itu Io.net?

Sumber: io.net

Io.net adalah proyek DePIN berbasis Solana, yang berfokus pada menyediakan daya komputasi GPU kepada perusahaan kecerdasan buatan dan pembelajaran mesin, membuat komputasi lebih scalable, accessible, dan efisien.

Model AI modern semakin besar, dan pelatihan serta inferensi tidak lagi tugas yang sederhana yang dapat dilakukan pada satu perangkat. Seringkali, komputasi paralel dan terdistribusi diperlukan, memanfaatkan kemampuan yang kuat di beberapa sistem dan inti untuk mengoptimalkan kinerja komputasi atau untuk memperluas agar dapat menampung kumpulan data dan model yang lebih besar. Mengkoordinasikan jaringan GPU sebagai sumber daya komputasi sangat penting dalam proses ini.

Latar Belakang Tim dan Pendanaan

Latar Belakang Tim

Tim inti Io.net awalnya mengkhususkan diri dalam perdagangan kuantitatif. Hingga Juni 2022, mereka fokus pada pengembangan sistem perdagangan kuantitatif tingkat institusi yang meliputi saham dan cryptocurrency. Saat permintaan sistem backend akan daya komputasi meningkat, tim mulai menjelajahi kemungkinan komputasi terdesentralisasi, akhirnya fokus pada memecahkan masalah-masalah tertentu terkait dengan pengurangan biaya layanan komputasi GPU.

• Pendiri & CEO: Ahmad Shadid, yang bekerja di bidang kuantitatif dan rekayasa keuangan. Sebelum Io.net, beliau adalah seorang relawan di Ethereum Foundation.
• CMO & Chief Strategy Officer: Garrison Yang, yang bergabung dengan Io.net pada bulan Maret tahun ini, sebelumnya menjabat sebagai VP Strategi dan Pertumbuhan di Avalanche dan lulus dari University of California, Santa Barbara.
• COO: Tory Green, COO dari Io.net, sebelumnya menjabat sebagai COO di Hum Capital dan Direktur Pengembangan Bisnis dan Strategi di Fox Mobile Group, dan lulusan Stanford.

Menurut informasi LinkedIn Io.net, tim ini berkantor pusat di New York, Amerika Serikat, dengan cabang di San Francisco, dan saat ini memiliki lebih dari 50 anggota tim.

Situation Pendanaan

Io.net menyelesaikan putaran pendanaan Seri A sebesar $30 juta yang dipimpin oleh Hack VC, dengan partisipasi dari lembaga lain yang terkenal seperti Multicoin Capital, Delphi Digital, Animoca Brands, OKX, Aptos Labs, dan Solana Labs. Selain itu, para pendiri Solana, Aptos, dan Animoca Brands juga ikut serta dalam putaran ini sebagai investor individu. Perlu dicatat, setelah investasi dari Aptos Foundation, proyek BC8.AI, yang pada awalnya menggunakan Solana, beralih ke platform L1 yang sama efisien, yaitu Aptos.

Mengatasi Kelangkaan Sumber Daya Komputasi

Dalam beberapa tahun terakhir, kemajuan cepat dalam AI telah memicu lonjakan permintaan akan chip komputasi, dengan aplikasi AI meningkatkan kebutuhan daya komputasinya setiap tiga bulan sekali dan hampir sepuluh kali lipat setiap 18 bulan. Pertumbuhan eksponensial ini telah menimbulkan tekanan pada rantai pasok global, yang masih berjuang untuk pulih dari gangguan yang disebabkan oleh pandemi. Awan publik biasanya memiliki akses prioritas ke lebih banyak GPU, menjadikannya tantangan bagi bisnis kecil dan lembaga riset untuk mendapatkan sumber daya komputasi, seperti:

• Biaya Tinggi: Menggunakan GPU kelas atas sangat mahal, dengan mudah mencapai ratusan ribu per bulan untuk pelatihan dan inferensi.
• Masalah Kualitas: Pengguna memiliki sedikit pilihan mengenai kualitas, tingkat keamanan, keterlambatan komputasi, dan opsi perangkat keras GPU lainnya dan harus puas dengan apa yang tersedia.
• Batasan Penggunaan: Saat menggunakan layanan cloud seperti AWS Google, GCP, atau Microsoft Azure, akses biasanya memerlukan waktu berminggu-minggu, dan GPU yang lebih canggih seringkali tidak tersedia.

Io.net mengatasi masalah ini dengan mengumpulkan sumber daya komputasi yang kurang dimanfaatkan (seperti pusat komputasi data independen, penambang cryptocurrency, Filecoin, Render, dan jaringan proyek kripto lainnya) dari GPU surplus. Sumber daya komputasi ini membentuk jaringan komputasi terdesentralisasi, memungkinkan insinyur untuk memperoleh daya komputasi yang besar dalam sistem yang mudah diakses, dapat disesuaikan, dan hemat biaya.

Sumber: io.net

Produk Io.net Dibangun untuk Empat Fungsionalitas Inti

• Inferensi Batch dan Layanan Model: Data batch dapat diproses secara paralel dengan mengekspor arsitektur dan bobot dari model yang telah dilatih ke penyimpanan objek bersama. Io.net memungkinkan tim pembelajaran mesin untuk membentuk alur kerja inferensi dan layanan model di seluruh jaringan GPU terdistribusi.
• Pelatihan Paralel: Batasan memori CPU/GPU dan alur kerja pemrosesan berurutan menciptakan bottleneck yang signifikan saat melatih model perangkat tunggal. Io.net memanfaatkan perpustakaan komputasi terdistribusi untuk mengatur dan mengelompokkan pekerjaan pelatihan, memungkinkan paralelisme data dan model di sejumlah perangkat terdistribusi.
• Penyetelan Hyperparameter Paralel: Eksperimen penyetelan hyperparameter secara inheren paralel. Io.net menggunakan perpustakaan komputasi terdistribusi dengan kemampuan penyetelan hyperparameter canggih untuk menemukan hasil terbaik, mengoptimalkan penjadwalan, dan mendefinisikan pola pencarian.
• Penguatan Pembelajaran: Io.net menggunakan perpustakaan pembelajaran penguatan sumber terbuka yang mendukung beban kerja RL yang sangat didistribusikan pada tingkat produksi dan sekumpulan API sederhana.

Produk Io.net

IO Cloud

IO Cloud mengelola klaster GPU yang tersebar, menawarkan akses sumber daya yang fleksibel dan dapat diskalakan tanpa perlu investasi perangkat keras mahal dan manajemen infrastruktur. Dengan memanfaatkan jaringan node terdesentralisasi memberikan pengalaman kepada insinyur pembelajaran mesin seperti yang diberikan oleh penyedia cloud mana pun. Terintegrasi dengan mulus melalui IO-SDK, menawarkan solusi untuk aplikasi AI dan Python serta menyederhanakan implementasi dan manajemen sumber daya GPU/CPU, menyesuaikan dengan kebutuhan yang berubah.

Sorotan:

• Cakupan Global: Dengan memanfaatkan pendekatan mirip CDN, ini mendistribusikan sumber daya GPU secara global untuk mengoptimalkan layanan pembelajaran mesin dan inferensi.
• Skalabilitas dan Efisiensi Biaya: Berkomitmen untuk menjadi platform cloud GPU yang paling efisien biaya, diproyeksikan dapat mengurangi biaya proyek AI/ML hingga 90%.
• Integrasi dengan IO SDK: Meningkatkan kinerja proyek kecerdasan buatan melalui integrasi yang mulus, menciptakan lingkungan kinerja tinggi yang terpadu.
• Fitur Eksklusif: Memberikan akses pribadi ke plugin OpenAI ChatGPT, menyederhanakan implementasi klaster pelatihan.
• Dukungan untuk Kerangka Kerja RAY: Memanfaatkan kerangka komputasi terdistribusi RAY untuk pengembangan aplikasi Python yang dapat diskalakan.
• Inovasi dalam Penambangan Kripto: Bertujuan untuk merevolusi industri penambangan kripto dengan mendukung ekosistem ML dan AI.

Pekerja IO

Dirancang untuk mengoptimalkan operasi pasokan dalam WebApps, IO Worker mencakup manajemen akun pengguna, pemantauan aktivitas real-time, pelacakan suhu dan konsumsi daya, dukungan instalasi, manajemen dompet, penilaian keamanan, dan analisis profitabilitas. Ini menjembatani kesenjangan antara tuntutan daya pemrosesan AI dan pasokan sumber daya komputasi yang tidak digunakan sepenuhnya, memfasilitasi proses pembelajaran AI yang lebih hemat biaya dan lancar.

Sorotan:

• Beranda Pekerja: Memberikan dasbor untuk pemantauan real-time perangkat yang terhubung, mendukung fungsi seperti penghapusan perangkat dan penggantian nama.
• Halaman Detail Perangkat: Menawarkan analisis komprehensif perangkat, termasuk lalu lintas, status koneksi, dan riwayat operasi.
• Halaman Tambah Perangkat: Menyederhanakan proses koneksi perangkat, mendukung integrasi perangkat baru dengan cepat dan mudah.
• Halaman Penghasilan dan Hadiah: Melacak pendapatan dan riwayat operasi dengan detail transaksi yang tersedia di Solscan.

Penjelajah IO

IO Explorer bertujuan untuk memberikan jendela ke dalam kerja jaringan, menawarkan pengguna statistik komprehensif dan wawasan operasional ke semua aspek dari awan GPU. Seperti Solscan atau penjelajah blockchain memberikan visibilitas ke transaksi blockchain, IO Explorer membawa tingkat transparansi yang sama ke operasi yang didorong GPU, memungkinkan pengguna untuk memantau, menganalisis, dan memahami detail dari awan GPU, memastikan visibilitas lengkap dari aktivitas jaringan, statistik, dan transaksi sambil melindungi privasi informasi sensitif.

Sorotan:

• Halaman Perangkat: Menampilkan detail publik perangkat yang terhubung ke jaringan, menyediakan data real-time dan pelacakan transaksi.
• Halaman Beranda Browser: Menawarkan wawasan tentang volume pasokan, pemasok terverifikasi, jumlah perangkat keras aktif, dan penetapan harga pasar real-time.
• Halaman Cluster: Menampilkan informasi publik tentang cluster yang diterapkan dalam jaringan, beserta metrik real-time dan detail reservasi.
• Pemantauan Klaster Real-Time: Memberikan wawasan langsung tentang status, kesehatan, dan kinerja klaster, memastikan pengguna memiliki informasi terbaru.

Arsitektur IO

Sebagai cabang dari Ray, IO-SDK membentuk dasar dari kemampuan Io.net, mendukung eksekusi paralel tugas dan penanganan lingkungan multibahasa. Kompatibilitasnya dengan kerangka machine learning (ML) utama memungkinkan Io.net untuk memenuhi tuntutan komputasi yang beragam secara fleksibel dan efisien. Penyiapan teknis ini, didukung oleh sistem teknis yang terdefinisi dengan baik, memastikan bahwa platform Io.net dapat memenuhi kebutuhan saat ini dan beradaptasi dengan perkembangan masa depan.

Arsitektur Multi-lapisan:

• Layer Antarmuka Pengguna: Memberikan antarmuka depan visual untuk pengguna, termasuk situs web publik, area klien, dan zona pemasok GPU, untuk memberikan pengalaman yang intuitif dan ramah pengguna.
• Lapisan Keamanan: Memastikan integritas dan keamanan sistem, dengan memasukkan mekanisme seperti pertahanan jaringan, otentikasi pengguna, dan pencatatan aktivitas.
• API Layer: Sebagai pusat komunikasi untuk situs web, pemasok, dan manajemen internal, ia memfasilitasi pertukaran data dan operasi.
• Backend Layer: Membentuk inti sistem dan bertanggung jawab untuk mengelola klaster/GPU, interaksi klien, dan skalabilitas otomatis.
• Database Layer: Menangani penyimpanan dan manajemen data, dengan penyimpanan utama untuk data terstruktur dan caching untuk penanganan data sementara.
• Tugas Layer: Mengelola komunikasi asinkron dan eksekusi tugas, memastikan pemrosesan data yang efisien dan alur yang lancar.
• Lapisan Infrastruktur: Membentuk dasar sistem, termasuk kolam sumber daya GPU, alat orkestrasi, dan pemrosesan tugas eksekusi/ML, dilengkapi dengan solusi pemantauan yang tangguh.

Tunnel IO

Tembok API memfasilitasi koneksi aman dari klien ke server remote, memungkinkan insinyur untuk melewati firewall dan NAT tanpa konfigurasi yang rumit, memungkinkan akses remote.

Alur kerja: Pekerja IO pertama-tama membangun koneksi dengan server tengah (yaitu, server io.net). Server io.net kemudian mendengarkan permintaan koneksi dari Pekerja IO dan mesin-mesin para insinyur, memfasilitasi pertukaran data melalui teknologi terowongan terbalik.

(Sumber Gambar: io.net, 2024.4.11)

Aplikasi di io.net: Insinyur dapat dengan mudah terhubung ke IO Workers melalui server io.net, mengatasi tantangan konfigurasi jaringan untuk mencapai akses dan manajemen jarak jauh.

Keuntungan:

• Aksesibilitas: Koneksi langsung ke IO Workers menghilangkan hambatan jaringan.
• Keamanan: Memastikan keamanan komunikasi, melindungi privasi data.
• Skalabilitas dan Fleksibilitas: Mengelola secara efisien beberapa IO Workers di berbagai lingkungan.

Jaringan IO

Jaringan IO menggunakan arsitektur VPN mesh untuk menyediakan komunikasi ultra-low-latency antara node antMiner.

Fitur Jaringan VPN Mesh: Koneksi Terdesentralisasi: Berbeda dengan model pusat dan bintang tradisional, VPN mesh memungkinkan koneksi langsung antar node, meningkatkan redundansi, toleransi kesalahan, dan distribusi beban.

Keuntungan untuk io.net:

• Koneksi langsung mengurangi keterlambatan komunikasi, meningkatkan kinerja aplikasi.
• Tidak ada titik kegagalan tunggal memastikan jaringan terus beroperasi bahkan jika satu node individual gagal.
• Meningkatkan perlindungan privasi pengguna dengan meningkatkan kompleksitas pelacakan dan analisis data.
• Integrasi node baru dengan mudah tanpa memengaruhi kinerja jaringan.
• Memfasilitasi pembagian sumber daya dan pemrosesan yang efisien di antara node.

Sumber: io.net

Perbandingan Platform Komputasi Terdesentralisasi

Akash dan Jaringan Render

Baik Akash maupun Render Network adalah jaringan komputasi terdesentralisasi yang memungkinkan pengguna untuk membeli dan menjual sumber daya komputasi. Akash beroperasi sebagai pasar terbuka, menawarkan sumber daya CPU, GPU, dan penyimpanan di mana pengguna dapat menetapkan harga dan kondisi, dan penyedia menawar untuk menyelesaikan tugas. Sebaliknya, Render menggunakan algoritma harga dinamis yang difokuskan pada layanan rendering GPU, dengan sumber daya yang disediakan oleh penyedia perangkat keras dan harga disesuaikan berdasarkan kondisi pasar. Render bukan pasar terbuka tetapi menggunakan algoritma harga multi-tier untuk mencocokkan pembeli layanan dengan pengguna.

Io.net dan Bittensor

Io.net berfokus pada tugas kecerdasan buatan dan pembelajaran mesin, memanfaatkan jaringan komputasi terdesentralisasi untuk memanfaatkan daya komputasi GPU yang tersebar di seluruh dunia, dan berkolaborasi dengan jaringan seperti Render untuk menangani tugas kecerdasan buatan dan pembelajaran mesin. Perbedaan utamanya terletak pada fokusnya pada tugas kecerdasan buatan dan pembelajaran mesin serta penekanannya pada memanfaatkan klaster GPU.

Bittensor adalah proyek blockchain yang berfokus pada kecerdasan buatan yang bertujuan untuk membuat pasar pembelajaran mesin terdesentralisasi yang bersaing dengan proyek-proyek terpusat. Dengan menggunakan struktur subnet, proyek ini fokus pada berbagai tugas terkait kecerdasan buatan, seperti jaringan kecerdasan buatan prompt teks dan kecerdasan buatan generasi gambar. Penambang dalam ekosistem Bittensor menyediakan sumber daya komputasi dan menjadi tuan rumah model pembelajaran mesin, menghitung untuk tugas kecerdasan buatan di luar rantai, dan bersaing untuk menawarkan hasil terbaik bagi pengguna.

Sumber: TokenInsight

Kesimpulan

Io.net siap untuk sangat memengaruhi pasar komputasi AI yang menjanjikan, didukung oleh tim teknis yang berpengalaman dan dukungan kuat dari entitas terkenal seperti Multicoin Capital, Solana Ventures, OKX Ventures, Aptos Labs, dan Delphi Digital. Sebagai GPU DePIN pertama dan satu-satunya, io.net menyediakan platform yang menghubungkan penyedia daya komputasi dengan pengguna, memperlihatkan fungsionalitas dan efisiensinya yang kuat dalam memberikan alur kerja pelatihan dan inferensi jaringan GPU terdistribusi untuk tim pembelajaran mesin.