Pembelajaran Mesin Optimis: Layanan AI Blockchain yang Efisien dan Biaya Rendah
Optimistic Machine Learning ( OPML ) adalah teknologi baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML menawarkan layanan ML yang lebih ekonomis dan efisien, serta memiliki ambang partisipasi yang lebih rendah. Saat ini, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA berukuran 26GB tanpa GPU.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi. Prosesnya adalah sebagai berikut:
Pemohon memulai tugas layanan ML
Server menyelesaikan tugas dan mengirimkan hasil ke blockchain
Hasil audit validator, jika ada keberatan maka mulai permainan verifikasi
Kontrak pintar melakukan arbitrase akhir
Permainan verifikasi satu tahap OPML mirip dengan perhitungan delegasi (RDoC). Ini membangun mesin virtual untuk eksekusi off-chain dan arbitrase on-chain, serta menerapkan pustaka DNN ringan khusus untuk meningkatkan efisiensi inferensi AI. Citra mesin virtual dikelola melalui pohon Merkle, hanya mengunggah hash akar ke dalam rantai.
Keterbatasan utama dari permainan verifikasi satu tahap adalah semua perhitungan harus dilakukan di dalam mesin virtual, yang tidak dapat memanfaatkan akselerasi GPU/TPU dengan baik. Untuk mengatasi masalah ini, OPML telah mengusulkan protokol verifikasi multi-tahap. Dalam protokol multi-tahap, hanya tahap terakhir yang perlu dihitung di VM, sementara tahap lainnya dapat dijalankan secara fleksibel di lingkungan lokal, sehingga secara signifikan meningkatkan kinerja.
Sebagai contoh model LLaMA, alur kerja OPML dua tahap adalah sebagai berikut:
Tahap kedua melakukan verifikasi permainan pada grafik komputasi, dapat memanfaatkan CPU multithread atau GPU.
Tahap pertama akan mengubah perhitungan node tunggal menjadi instruksi VM untuk diverifikasi
OPML multi-stage dapat mencapai percepatan komputasi α kali dibandingkan dengan tahap tunggal, di mana α adalah rasio percepatan GPU atau komputasi paralel. Selain itu, ukuran pohon Merkle dari OPML multi-stage juga secara signifikan lebih kecil dibandingkan dengan tahap tunggal.
Untuk memastikan konsistensi hasil ML, OPML menggunakan algoritma fixed-point dan pustaka floating-point berbasis perangkat lunak. Teknologi ini dapat mengurangi dampak kesalahan pembulatan floating-point dan memastikan konsistensi hasil lintas platform.
Secara keseluruhan, OPML menyediakan solusi yang efisien, biaya rendah, dan dapat diskalakan untuk layanan AI di Blockchain. Ini tidak hanya mendukung inferensi model, tetapi juga dapat digunakan untuk pelatihan model, merupakan kerangka kerja pembelajaran mesin yang serbaguna.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
9 Suka
Hadiah
9
3
Bagikan
Komentar
0/400
RumbleValidator
· 07-22 01:00
Efisiensi verifikasi jauh melebihi ekspektasi, saya sangat mengakui arsitektur seperti ini.
Lihat AsliBalas0
BlockchainThinkTank
· 07-22 00:59
Disarankan kepada semua orang untuk berhati-hati dalam penilaian, proyek ML serupa sudah gagal pada tahun 2018, mengikuti tren harus dipikirkan dengan matang.
Lihat AsliBalas0
DancingCandles
· 07-22 00:48
bull ah teman tidak perlu GPU juga bisa melakukan AI
Pembelajaran Mesin Optimis: Jalan Inovasi Layanan AI Blockchain
Pembelajaran Mesin Optimis: Layanan AI Blockchain yang Efisien dan Biaya Rendah
Optimistic Machine Learning ( OPML ) adalah teknologi baru yang dapat melakukan inferensi dan pelatihan/penyesuaian model AI di sistem Blockchain. Dibandingkan dengan ZKML, OPML menawarkan layanan ML yang lebih ekonomis dan efisien, serta memiliki ambang partisipasi yang lebih rendah. Saat ini, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA berukuran 26GB tanpa GPU.
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi layanan ML dan konsensus yang dapat diverifikasi. Prosesnya adalah sebagai berikut:
Permainan verifikasi satu tahap OPML mirip dengan perhitungan delegasi (RDoC). Ini membangun mesin virtual untuk eksekusi off-chain dan arbitrase on-chain, serta menerapkan pustaka DNN ringan khusus untuk meningkatkan efisiensi inferensi AI. Citra mesin virtual dikelola melalui pohon Merkle, hanya mengunggah hash akar ke dalam rantai.
Keterbatasan utama dari permainan verifikasi satu tahap adalah semua perhitungan harus dilakukan di dalam mesin virtual, yang tidak dapat memanfaatkan akselerasi GPU/TPU dengan baik. Untuk mengatasi masalah ini, OPML telah mengusulkan protokol verifikasi multi-tahap. Dalam protokol multi-tahap, hanya tahap terakhir yang perlu dihitung di VM, sementara tahap lainnya dapat dijalankan secara fleksibel di lingkungan lokal, sehingga secara signifikan meningkatkan kinerja.
Sebagai contoh model LLaMA, alur kerja OPML dua tahap adalah sebagai berikut:
OPML multi-stage dapat mencapai percepatan komputasi α kali dibandingkan dengan tahap tunggal, di mana α adalah rasio percepatan GPU atau komputasi paralel. Selain itu, ukuran pohon Merkle dari OPML multi-stage juga secara signifikan lebih kecil dibandingkan dengan tahap tunggal.
Untuk memastikan konsistensi hasil ML, OPML menggunakan algoritma fixed-point dan pustaka floating-point berbasis perangkat lunak. Teknologi ini dapat mengurangi dampak kesalahan pembulatan floating-point dan memastikan konsistensi hasil lintas platform.
Secara keseluruhan, OPML menyediakan solusi yang efisien, biaya rendah, dan dapat diskalakan untuk layanan AI di Blockchain. Ini tidak hanya mendukung inferensi model, tetapi juga dapat digunakan untuk pelatihan model, merupakan kerangka kerja pembelajaran mesin yang serbaguna.