İyimser Makine Öğrenimi: Verimli Düşük Maliyetli Blok Zinciri AI Hizmeti
Optimistik Makine Öğrenimi ( OPML ), Blok Zinciri sistemleri üzerinde AI model çıkarımı ve eğitimi/ince ayarı yapılmasını sağlayan yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML daha ekonomik ve verimli ML hizmetleri sunmakta ve katılım eşiği daha düşüktür. Şu anda sıradan bir PC, 26GB boyutundaki 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilir konsensüsünü sağlamak için doğrulama oyun mekanizmasını benimsemektedir. Süreci aşağıdaki gibidir:
Talep eden ML hizmet görevini başlatır
Sunucu görevi tamamlar ve sonucu blok zincirine gönderir.
Doğrulayıcıların inceleme sonuçları, itiraz olması durumunda doğrulama oyunu başlatılır.
Akıllı sözleşme nihai tahkim gerçekleştirir
OPML'nin tek aşamalı doğrulama oyunu, (RDoC) hesaplama yetkilendirmesine benzer. Zincir dışı yürütme ve zincir içi tahkim için bir sanal makine oluşturur ve AI çıkarım verimliliğini artırmak için özel hafif DNN kütüphanesi uygular. Sanal makine görüntüsü, yalnızca kök hash'ini zincire yükleyerek Merkle ağacı ile yönetilir.
Tek aşamalı doğrulama oyununun ana sınırlamaları, tüm hesaplamaların sanal makine içinde gerçekleştirilmesi gerektiğinden, GPU/TPU hızlandırmasından tam olarak yararlanamamasıdır. Bu sorunu çözmek için OPML, çok aşamalı doğrulama protokolünü önerdi. Çok aşamalı protokolde, yalnızca son aşama VM'de hesaplama gerektirirken, diğer aşamalar yerel ortamda esnek bir şekilde gerçekleştirilebilir, böylece performans önemli ölçüde artırılabilir.
LLaMA modelini örnek alarak, iki aşamalı OPML'in çalışma süreci aşağıdaki gibidir:
İkinci aşama, hesaplama grafiği üzerinde doğrulama oyunu gerçekleştirir, çoklu iş parçacığı CPU veya GPU kullanılabilir.
İlk aşama, tek bir düğüm hesaplamasını VM talimatlarına dönüştürerek doğrulama işlemi gerçekleştirecek.
Çok aşamalı OPML, tek aşamalıya kıyasla α katı hesaplama hızlandırması sağlayabilir; burada α, GPU veya paralel hesaplamanın hızlandırma oranıdır. Ayrıca, çok aşamalı OPML'nin Merkle ağacı boyutu da tek aşamalıya göre belirgin şekilde daha küçüktür.
ML sonuçlarının tutarlılığını sağlamak için, OPML sabit nokta algoritması ve yazılıma dayalı kayan nokta kütüphanesini kullanmıştır. Bu teknikler, kayan nokta yuvarlama hatalarının etkisini azaltabilir ve platformlar arası sonuç tutarlılığını sağlayabilir.
Genel olarak, OPML, Blok Zinciri üzerindeki AI hizmetleri için verimli, düşük maliyetli ve ölçeklenebilir bir çözüm sunmaktadır. Bu, yalnızca model çıkarımı ile sınırlı kalmayıp, aynı zamanda model eğitimi için de kullanılabilen genel bir makine öğrenimi çerçevesidir.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
9 Likes
Reward
9
3
Share
Comment
0/400
RumbleValidator
· 13h ago
Doğrulama verimliliği beklentilerin çok üzerinde, bu tür bir yapıyı gerçekten kabul ediyorum.
View OriginalReply0
BlockchainThinkTank
· 13h ago
Herkesi dikkatli değerlendirmeye davet ediyorum, benzer ML projeleri 2018'de başarısız oldu, akımın peşinden koşmadan önce iyi düşünmek gerek.
View OriginalReply0
DancingCandles
· 13h ago
Boğa ah dostum, ekran kartı olmadan da AI yapabilirsin.
İyimser Makine Öğrenimi: Blok Zinciri AI Hizmetlerinin Yenilikçi Yolu
İyimser Makine Öğrenimi: Verimli Düşük Maliyetli Blok Zinciri AI Hizmeti
Optimistik Makine Öğrenimi ( OPML ), Blok Zinciri sistemleri üzerinde AI model çıkarımı ve eğitimi/ince ayarı yapılmasını sağlayan yeni bir teknolojidir. ZKML ile karşılaştırıldığında, OPML daha ekonomik ve verimli ML hizmetleri sunmakta ve katılım eşiği daha düşüktür. Şu anda sıradan bir PC, 26GB boyutundaki 7B-LLaMA gibi büyük dil modellerini GPU olmadan çalıştırabilir.
OPML, ML hizmetlerinin merkeziyetsizliğini ve doğrulanabilir konsensüsünü sağlamak için doğrulama oyun mekanizmasını benimsemektedir. Süreci aşağıdaki gibidir:
OPML'nin tek aşamalı doğrulama oyunu, (RDoC) hesaplama yetkilendirmesine benzer. Zincir dışı yürütme ve zincir içi tahkim için bir sanal makine oluşturur ve AI çıkarım verimliliğini artırmak için özel hafif DNN kütüphanesi uygular. Sanal makine görüntüsü, yalnızca kök hash'ini zincire yükleyerek Merkle ağacı ile yönetilir.
Tek aşamalı doğrulama oyununun ana sınırlamaları, tüm hesaplamaların sanal makine içinde gerçekleştirilmesi gerektiğinden, GPU/TPU hızlandırmasından tam olarak yararlanamamasıdır. Bu sorunu çözmek için OPML, çok aşamalı doğrulama protokolünü önerdi. Çok aşamalı protokolde, yalnızca son aşama VM'de hesaplama gerektirirken, diğer aşamalar yerel ortamda esnek bir şekilde gerçekleştirilebilir, böylece performans önemli ölçüde artırılabilir.
LLaMA modelini örnek alarak, iki aşamalı OPML'in çalışma süreci aşağıdaki gibidir:
Çok aşamalı OPML, tek aşamalıya kıyasla α katı hesaplama hızlandırması sağlayabilir; burada α, GPU veya paralel hesaplamanın hızlandırma oranıdır. Ayrıca, çok aşamalı OPML'nin Merkle ağacı boyutu da tek aşamalıya göre belirgin şekilde daha küçüktür.
ML sonuçlarının tutarlılığını sağlamak için, OPML sabit nokta algoritması ve yazılıma dayalı kayan nokta kütüphanesini kullanmıştır. Bu teknikler, kayan nokta yuvarlama hatalarının etkisini azaltabilir ve platformlar arası sonuç tutarlılığını sağlayabilir.
Genel olarak, OPML, Blok Zinciri üzerindeki AI hizmetleri için verimli, düşük maliyetli ve ölçeklenebilir bir çözüm sunmaktadır. Bu, yalnızca model çıkarımı ile sınırlı kalmayıp, aynı zamanda model eğitimi için de kullanılabilen genel bir makine öğrenimi çerçevesidir.