Yapay Zeka ve Blok Zinciri'nin Bütünleşmesi: Sıfırdan Zirveye
Yapay zeka endüstrisinin son zamanlarda gösterdiği hızlı gelişim, Dördüncü Sanayi Devrimi olarak görülüyor. Büyük dil modellerinin ortaya çıkması, her sektördeki verimliliği önemli ölçüde artırdı ve ABD genel iş verimliliğine yaklaşık %20'lik bir katkı sağladığı tahmin ediliyor. Aynı zamanda, büyük modellerin genelleme yeteneği yeni bir yazılım tasarım paradigması olarak değerlendiriliyor; geçmişteki hassas kod tasarımlarının aksine, günümüzde yazılımlar daha çok genelleştirilmiş büyük model çerçevelerini kullanarak daha geniş giriş-çıkış modlarını destekliyor. Derin öğrenme teknolojisi gerçekten de AI endüstrisine yeni bir refah dalgası getirdi ve bu dalga kripto para endüstrisine de yayıldı.
Bu makale, AI endüstrisinin gelişim sürecini, teknik sınıflandırmasını ve derin öğrenmenin sektöre olan derin etkisini ayrıntılı bir şekilde inceleyecektir. Derin öğrenme endüstri zincirinin amont ve avalt taraflarını, GPU, bulut bilişim, veri kaynakları, kenar cihazları vb. dahil olmak üzere derinlemesine analiz edeceğiz ve gelişim durumu ile eğilimlerini değerlendireceğiz. Ayrıca, kripto para birimi ile AI endüstrisi arasındaki ilişkiyi özünde tartışacak ve kripto ile ilgili AI endüstri zinciri yapısını gözden geçireceğiz.
AI sektörünün gelişim süreci
AI sektörü 1950'li yıllarda başlamıştır. Yapay zekanın vizyonunu gerçekleştirmek için akademi ve sanayi, farklı dönem bağlamlarında çeşitli gerçekleştirme yolları geliştirmiştir.
Modern yapay zeka teknolojisi esas olarak "makine öğrenimi" terimini kullanmaktadır. Bu terimin temel konsepti, makinelerin veri tekrarları aracılığıyla sistem performansını geliştirmesidir. Ana adımlar, verilerin algoritmaya girişi, modelin eğitimi, modelin test edilmesi ve nihayetinde otomatik tahmin görevlerinde kullanılmasıdır.
Makine öğreniminin şu anda üç ana akımı bulunmaktadır: bağlantıcılık, sembolistlik ve davranışçılık; bunlar sırasıyla insanın sinir sistemini, düşüncesini ve davranışını taklit etmektedir. Şu anda sinir ağlarıyla temsil edilen bağlantıcılık baskın konumdadır ( ayrıca derin öğrenme olarak da bilinmektedir ). Sinir ağı yapısı, giriş katmanı, çıkış katmanı ve birden fazla gizli katmandan oluşur; katman sayısı ve nöron ( parametre ) sayısı yeterince fazla olduğunda, karmaşık genel görevleri modelleyebilir.
Sinir ağına dayalı derin öğrenme teknolojisi de birçok iterasyondan geçti; en eski sinir ağlarından, ileri beslemeli sinir ağları, RNN, CNN, GAN'a, sonunda modern büyük modellerin, örneğin GPT gibi, kullandığı Transformer teknolojisine evrildi. Transformer teknolojisi, sinir ağlarının bir evrim yönüdür ve farklı modları (, ses, video, resim gibi, karşılık gelen sayısal temsil biçimlerine kodlamak için bir dönüştürücü ekler ve ardından sinir ağına giriş yaparak çok modlu işleme yeteneği sağlar.
![Yeni Kılavuz丨AI x Kripto: Sıfırdan Zirveye])https://img-cdn.gateio.im/webp-social/moments-c50ee5a87373c6cd6c4dc63adc2cf47c.webp(
Yapay Zeka'nın gelişimi üç teknik dalgadan geçti:
1960'lar: Sembolist teknolojinin gelişimi, genel doğal dil işleme ve insan-makine diyalog problemlerini çözdü. Aynı dönemde uzman sistemler doğdu.
1990'lar: Bayes ağları ve davranışa dayalı robotik önerildi, davranışçılığın doğuşunu simgeliyor. 1997'de IBM'in Deep Blue, satranç şampiyonunu yenerek, Yapay Zeka'nın bir dönüm noktası olarak kabul edildi.
2006'dan günümüze: Derin öğrenme kavramı ortaya çıktı, yapay sinir ağları mimarisiyle algoritmalar yavaş yavaş evrimleşti, RNN, GAN'dan Transformer ve Stable Diffusion'a, bu bağlılıkçılığın altın çağıdır.
Son yıllarda AI alanındaki bazı simgesel olaylar şunlardır:
2015 yılında, derin öğrenme algoritmaları "Nature" dergisinde yayımlandı ve akademik dünyada büyük bir yankı uyandırdı.
2016 yılında, AlphaGo, Go dünyası şampiyonu Lee Sedol'u yendi.
2017 yılında, Google Transformer algoritmasıyla ilgili bir makale yayınladı, büyük ölçekli dil modelleri ortaya çıkmaya başladı.
2018-2020 yıllarında, OpenAI GPT serisi modelleri yayınladı, parametre ölçeği sürekli olarak arttı.
Ocak 2023'te, GPT-4 tabanlı ChatGPT piyasaya sürüldü, Mart ayında 100 milyona ulaştı ve tarihin en hızlı 100 milyon kullanıcıya ulaşan uygulaması oldu.
![Yeni başlayanlar için bilgilendirme丨AI x Kripto: Sıfırdan Zirveye])https://img-cdn.gateio.im/webp-social/moments-0c9bdea33a39a2c07d1f06760ed7e804.webp(
Derin Öğrenme Endüstri Zinciri
Mevcut büyük dil modelleri, esas olarak sinir ağı tabanlı derin öğrenme yöntemlerini kullanmaktadır. GPT gibi büyük modeller, yeni bir AI dalgasını tetikledi ve birçok oyuncu bu alana girdi. Pazarın veri ve hesaplama gücüne olan talebi hızla artmaktadır, bu nedenle derin öğrenme algoritmalarının endüstri zinciri yapısını, üst ve alt akışın durumunu, arz-talep ilişkisini ve gelecekteki gelişimini inceleyeceğiz.
GPT gibi büyük dil modellerinin ) LLM'lerinin eğitimi esasen üç aşamaya ayrılmaktadır:
Ön Eğitim: Sinir hücrelerinin en iyi parametrelerini bulmak için büyük miktarda veri girişi yapmak, bu süreç en fazla hesaplama gücünü tüketmektedir.
İnce Ayar: Model çıktısı kalitesini artırmak için az ama kaliteli bir veri seti kullanarak eğitim yapmak.
Pekiştirmeli Öğrenme: Çıktı sonuçlarını sıralamak için "ödül modeli" oluşturmak, büyük model parametrelerini yinelemek için kullanılır.
Büyük modellerin performansını etkileyen üç ana faktör: parametre sayısı, veri miktarı ve kalitesidir. Parametre sayısını p, veri miktarını ise n( Token sayısına göre hesaplayarak), gerekli hesaplama miktarını deneysel bir kural ile tahmin edebilirsiniz.
Hesaplama gücü genellikle Flops cinsinden temel birim olarak ifade edilir ve bir floating point işlemi temsil eder. Deneysel kurallara göre, büyük bir modelin önceden eğitilmesi yaklaşık 6np Flops gerektirir. Model çıktısını bekleyen ( giriş verileri için çıkarım süreci ) yaklaşık 2np Flops gerektirir.
Erken dönemlerde eğitim için genellikle CPU çipleri kullanıldı, daha sonra yavaş yavaş GPU'lara geçildi, örneğin Nvidia'nın A100, H100 çipleri gibi. GPU'lar, Tensor Core modülü aracılığıyla kayan nokta işlemleri gerçekleştirir, FP16/FP32 hassasiyeti altındaki Flops verileri, çipin hesaplama yeteneğini ölçme açısından önemli bir göstergedir.
GPT-3 örneğinde olduğu gibi, 1750 milyar parametre ve 1800 milyar Token veri miktarına sahiptir. Bir ön eğitim yaklaşık 3.1510^22 Flops, yani 3.1510^10 TFLOPS gerektirir. Bir NVIDIA H100 SXM çipi kullanarak GPT-3'ü bir kez ön eğitmek yaklaşık 584 gün sürmektedir.
Eğitim büyük modellerinin çok büyük hesaplama gücü gerektirdiği, birden fazla en son teknoloji çipin birlikte çalışması gerektiği görülebilir. GPT-4'ün parametre sayısı ve veri miktarı, GPT-3'ün on katıdır, bu da 100 katından fazla çip gücü gerektirebilir.
Büyük model eğitiminde, veri depolama zorluklarla karşı karşıya kalmaktadır. GPT-3'ün verileri yaklaşık 570GB, parametreler ise yaklaşık 700GB yer kaplamaktadır. GPU belleği genellikle daha küçüktür, ( örneğin A100 80GB'dir ), bu nedenle tüm verileri barındıramaz, bu yüzden çip bant genişliğini dikkate almak gerekir. Çoklu GPU eğitimi sırasında çipler arası veri transfer hızı da önemlidir. Bazen eğitim hızını sınırlayan darboğaz, hesaplama gücü değil, veri transfer hızıdır.
Derin öğrenme endüstri zinciri esasen aşağıdaki birkaç aşamayı içerir:
( 1. Donanım GPU sağlayıcısı
NVIDIA, AI GPU çipleri alanında kesin bir lider konumundadır. Akademik camia genellikle RTX serisi gibi tüketici seviyesindeki GPU'ları ) kullanırken, sanayi genellikle H100, A100 gibi ticari çipleri kullanmaktadır. Google'ın da kendi geliştirdiği TPU çipleri bulunmaktadır, ancak bunlar esas olarak Google Cloud hizmetlerinde kullanılmaktadır.
2023'te Nvidia H100 çipi piyasaya sürüldüğünde büyük bir sipariş aldı, talep fazlası oluştu. 2023 yılının sonunda H100 sipariş miktarı 500 binden fazla oldu. Nvidia'ya olan bağımlılığı ortadan kaldırmak için Google, GPU'ları ortaklaşa geliştirmek umuduyla CUDA Birliği'ni kurdu.
![Yeni Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-609c5dd6ee0abcec6bf9c118d7741867.webp(
) 2. Bulut Hizmet Sağlayıcısı
Bulut hizmet sağlayıcıları, sınırlı bütçeye sahip AI şirketlerine esnek hesaplama gücü ve barındırma eğitim çözümleri sunmak için büyük miktarda GPU satın alarak yüksek performanslı hesaplama kümeleri oluşturur. Üç ana kategoriye ayrılır:
Geleneksel büyük bulut sağlayıcıları: AWS, Google Cloud, Azure vb.
Dikey AI bulut hesaplama platformu: CoreWeave, Lambda vb.
Servis Olarak Akıl Yürütme Sağlayıcıları: Together.ai, Fireworks.ai vb.
( 3. Eğitim veri kaynağı sağlayıcıları
Büyük model eğitimi, büyük miktarda veri gerektirir. Bazı şirketler, finans, sağlık, kimya gibi çeşitli sektörler için özel veri setleri sunmaktadır.
) 4. Veritabanı Sağlayıcısı
Yapay zeka eğitimi, büyük miktarda yapılandırılmamış verinin verimli bir şekilde depolanmasını ve işlenmesini gerektirir, bu nedenle özel "vektör veritabanları" ortaya çıkmıştır. Başlıca oyuncular arasında Chroma, Zilliz, Pinecone gibi isimler bulunmaktadır.
5. Kenar Cihazı
GPU kümesi büyük miktarda ısı üretir, bu nedenle stabil çalışmayı sağlamak için bir soğutma sistemine ihtiyaç vardır. Şu anda ana olarak hava soğutma kullanılmakta, ancak sıvı soğutma sistemleri yatırımcıların ilgisini çekmektedir. Enerji arzı açısından, bazı teknoloji şirketleri jeotermal, hidrojen, nükleer gibi temiz enerji kaynaklarına yatırım yapmaya başlamıştır.
6. AI Uygulamaları
Şu anda AI uygulamalarının gelişimi, blok zinciri endüstrisine benziyor; altyapı kalabalık ama uygulama geliştirme nispeten geride. İlk on ayda aktif olan AI uygulamalarının çoğu arama türü ürünlerken, sosyal gibi diğer tür uygulamalar oldukça az. AI uygulamalarının kullanıcı tutma oranı da genellikle geleneksel internet uygulamalarından daha düşük.
Genel olarak, derin öğrenme endüstri zinciri hızlı bir gelişim gösteriyor, ancak birçok zorlukla da karşı karşıya. Hesaplama gücü talebi sürekli artıyor, veri ve enerji tüketimi büyük, uygulama senaryoları daha da genişletilmelidir. Gelecekte, endüstri zincirinin her aşaması, daha büyük ölçekli ve daha verimli AI model eğitimi ve uygulamalarını desteklemek için sürekli olarak optimize edilecek ve güncellenecektir.
![Yeni Başlayanlar İçin Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-f37fb0100218188368f4d31940aab2a3.webp###
Kripto Para ve AI'nın İlişkisi
Blok Zinciri teknolojisinin çekirdeği merkeziyetsizlik ve güvenin ortadan kaldırılmasıdır. Bitcoin'in bir eşler arası elektronik nakit sistemi olarak, Ethereum'un akıllı sözleşmeler platformuna kadar, blok zinciri esasen bir değer ağıdır ve her işlem, temel token'in değerine dayalı bir değer alışverişidir.
Geleneksel internette, değer P/E gibi göstergelerle hisse fiyatı ve piyasa değeri olarak hesaplanır. Ancak Blok Zinciri ağında, yerel token'lar çok boyutlu değerlerin bir yansıması olarak, yalnızca staking gelirleri elde etmekle kalmaz, aynı zamanda değer değişim aracı, değer saklama aracı ve ağ etkinliklerinin tüketim maddesi gibi işlevler de görür.
Token ekonomisinin önemi, ağdaki herhangi bir işlev veya düşünceye değer atfetmesidir. Token'lar, AI endüstri zincirinin her aşamasında değer yeniden şekillendirmeyi sağlayarak daha fazla insanın AI alt alanlarında derinlemesine çalışmasını teşvik eder. Aynı zamanda, token'ların iş birliği etkisi, altyapının değerini artıracak ve "şişman protokol, ince uygulama" yapısını oluşturacaktır.
Blok Zinciri teknolojisinin değiştirilemez ve güvene ihtiyaç duymayan özellikleri, AI endüstrisine de gerçek değer katabilir:
Veri gizliliği koruma altında model eğitimi ve çıkarımı
Küresel ağ dağıtımı ve kullanılmayan GPU hesap gücünden yararlanarak
AI endüstriyel zincirinin her aşamasına güvenilir bir değer keşfi ve değişim mekanizması sağlamak
Sonuç olarak, token ekonomisi AI endüstrisinin değerinin yeniden şekillenmesini ve keşfini teşvik edebilir, merkeziyetsiz defter güven sorununu çözebilir ve değerin küresel ölçekte yeniden akışını sağlayabilir. Bu birleşim, AI endüstrisine yeni bir gelişim dinamiği ve fırsatlar getirecektir.
![Yeni Başlayanlar için Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-8848582a34ba293d15afae15d90e3c95.webp(
Kripto Para Sektörü AI Sanayi Zinciri Proje Genel Görünümü
) GPU arz tarafı
Şu anda, ana blok zinciri GPU bulut hesaplama projeleri arasında Render, Golem gibi projeler bulunmaktadır. Render, daha olgun bir proje olarak, esas olarak video renderlama gibi geleneksel görevleri hedef alır ve katı anlamda AI alanına girmez. Ancak, GPU bulut pazarı yalnızca AI model eğitimi ve çıkarımı için değil, aynı zamanda geleneksel renderlama için de uygulanabilir, bu da tek bir pazara olan bağımlılık riskini azaltır.
Sektör tahminlerine göre, 2024 yılında GPU hesaplama gücü talebi yaklaşık 75 milyar dolar olacak, 2032'de ise 773 milyar dolara ulaşacak ve yıllık bileşik büyüme oranı %33.86 olacak. GPU'ların hızlı bir şekilde yenilenmesiyle birlikte, paylaşılabilir GPU hesaplama gücüne olan talep önemli ölçüde artacak çünkü çok sayıda güncel olmayan atıl GPU kaynağı ortaya çıkacak.
Donanım Bant Genişliği
Bant genişliği genellikle bulut bilişim performansını etkileyen anahtar faktördür, özellikle merkeziyetsiz GPU paylaşım ağları için. Meson Network gibi bazı projeler bu sorunu bant genişliğini paylaşarak çözmeye çalışıyor, ancak coğrafi konumdan kaynaklanan gecikmelerin hala önlenmesi zor olduğu için pratikte etkisi sınırlıdır.
( verileri
AI veri sağlayıcıları arasında EpiK Protocol, Synesis One, Masa gibi projeler bulunmaktadır. Geleneksel Web2 veri şirketlerine kıyasla, blok zinciri projeleri veri toplama konusunda avantajlara sahiptir ve kişisel veri katkıları için teşvikler sunabilir. Sıfır bilgi kanıtları gibi gizlilik hesaplama teknolojileri ile birleştirildiğinde, daha geniş veri paylaşımının gerçekleştirilmesi umulmaktadır.
) ZKML
Veri gizliliği koruma altında model eğitimi ve çıkarımı gerçekleştirmek için bazı projeler sıfır bilgi kanıtı çözümleri kullanmaktadır. Tipik projeler arasında Axiom, Risc Zero gibi projeler bulunmaktadır ve bunlar zincir dışı hesaplama ve veri için ZK kanıtı sağlamaktadır. Bu tür genel ZK projelerinin uygulama sınırları daha geniştir ve yatırımcılar için daha çekicidir.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
15 Likes
Reward
15
5
Share
Comment
0/400
MetaNeighbor
· 18h ago
Kripto Para Trade için gerekli AI, her şeyi AI ile yap.
View OriginalReply0
ILCollector
· 18h ago
Kim dedi ki boğa koşusu mutlaka kesinti kaybı olmadan geçer? Kesinti kaybı da bir yükseliş tarzıdır.
View OriginalReply0
ColdWalletGuardian
· 18h ago
GPU büyük kardeş yine Aya doğru gidiyor~
View OriginalReply0
HodlOrRegret
· 18h ago
Tamam tamam, yine AI'yi övüyorlar. Boğa boğa, sonuçta Mining Ekipmanı satılmıyor.
Yapay Zeka ve Blok Zinciri Entegrasyonu: Sanayi Zincirinden Tokenomiye Kapsamlı Bir Analiz
Yapay Zeka ve Blok Zinciri'nin Bütünleşmesi: Sıfırdan Zirveye
Yapay zeka endüstrisinin son zamanlarda gösterdiği hızlı gelişim, Dördüncü Sanayi Devrimi olarak görülüyor. Büyük dil modellerinin ortaya çıkması, her sektördeki verimliliği önemli ölçüde artırdı ve ABD genel iş verimliliğine yaklaşık %20'lik bir katkı sağladığı tahmin ediliyor. Aynı zamanda, büyük modellerin genelleme yeteneği yeni bir yazılım tasarım paradigması olarak değerlendiriliyor; geçmişteki hassas kod tasarımlarının aksine, günümüzde yazılımlar daha çok genelleştirilmiş büyük model çerçevelerini kullanarak daha geniş giriş-çıkış modlarını destekliyor. Derin öğrenme teknolojisi gerçekten de AI endüstrisine yeni bir refah dalgası getirdi ve bu dalga kripto para endüstrisine de yayıldı.
Bu makale, AI endüstrisinin gelişim sürecini, teknik sınıflandırmasını ve derin öğrenmenin sektöre olan derin etkisini ayrıntılı bir şekilde inceleyecektir. Derin öğrenme endüstri zincirinin amont ve avalt taraflarını, GPU, bulut bilişim, veri kaynakları, kenar cihazları vb. dahil olmak üzere derinlemesine analiz edeceğiz ve gelişim durumu ile eğilimlerini değerlendireceğiz. Ayrıca, kripto para birimi ile AI endüstrisi arasındaki ilişkiyi özünde tartışacak ve kripto ile ilgili AI endüstri zinciri yapısını gözden geçireceğiz.
AI sektörünün gelişim süreci
AI sektörü 1950'li yıllarda başlamıştır. Yapay zekanın vizyonunu gerçekleştirmek için akademi ve sanayi, farklı dönem bağlamlarında çeşitli gerçekleştirme yolları geliştirmiştir.
Modern yapay zeka teknolojisi esas olarak "makine öğrenimi" terimini kullanmaktadır. Bu terimin temel konsepti, makinelerin veri tekrarları aracılığıyla sistem performansını geliştirmesidir. Ana adımlar, verilerin algoritmaya girişi, modelin eğitimi, modelin test edilmesi ve nihayetinde otomatik tahmin görevlerinde kullanılmasıdır.
Makine öğreniminin şu anda üç ana akımı bulunmaktadır: bağlantıcılık, sembolistlik ve davranışçılık; bunlar sırasıyla insanın sinir sistemini, düşüncesini ve davranışını taklit etmektedir. Şu anda sinir ağlarıyla temsil edilen bağlantıcılık baskın konumdadır ( ayrıca derin öğrenme olarak da bilinmektedir ). Sinir ağı yapısı, giriş katmanı, çıkış katmanı ve birden fazla gizli katmandan oluşur; katman sayısı ve nöron ( parametre ) sayısı yeterince fazla olduğunda, karmaşık genel görevleri modelleyebilir.
Sinir ağına dayalı derin öğrenme teknolojisi de birçok iterasyondan geçti; en eski sinir ağlarından, ileri beslemeli sinir ağları, RNN, CNN, GAN'a, sonunda modern büyük modellerin, örneğin GPT gibi, kullandığı Transformer teknolojisine evrildi. Transformer teknolojisi, sinir ağlarının bir evrim yönüdür ve farklı modları (, ses, video, resim gibi, karşılık gelen sayısal temsil biçimlerine kodlamak için bir dönüştürücü ekler ve ardından sinir ağına giriş yaparak çok modlu işleme yeteneği sağlar.
![Yeni Kılavuz丨AI x Kripto: Sıfırdan Zirveye])https://img-cdn.gateio.im/webp-social/moments-c50ee5a87373c6cd6c4dc63adc2cf47c.webp(
Yapay Zeka'nın gelişimi üç teknik dalgadan geçti:
1960'lar: Sembolist teknolojinin gelişimi, genel doğal dil işleme ve insan-makine diyalog problemlerini çözdü. Aynı dönemde uzman sistemler doğdu.
1990'lar: Bayes ağları ve davranışa dayalı robotik önerildi, davranışçılığın doğuşunu simgeliyor. 1997'de IBM'in Deep Blue, satranç şampiyonunu yenerek, Yapay Zeka'nın bir dönüm noktası olarak kabul edildi.
2006'dan günümüze: Derin öğrenme kavramı ortaya çıktı, yapay sinir ağları mimarisiyle algoritmalar yavaş yavaş evrimleşti, RNN, GAN'dan Transformer ve Stable Diffusion'a, bu bağlılıkçılığın altın çağıdır.
Son yıllarda AI alanındaki bazı simgesel olaylar şunlardır:
![Yeni başlayanlar için bilgilendirme丨AI x Kripto: Sıfırdan Zirveye])https://img-cdn.gateio.im/webp-social/moments-0c9bdea33a39a2c07d1f06760ed7e804.webp(
Derin Öğrenme Endüstri Zinciri
Mevcut büyük dil modelleri, esas olarak sinir ağı tabanlı derin öğrenme yöntemlerini kullanmaktadır. GPT gibi büyük modeller, yeni bir AI dalgasını tetikledi ve birçok oyuncu bu alana girdi. Pazarın veri ve hesaplama gücüne olan talebi hızla artmaktadır, bu nedenle derin öğrenme algoritmalarının endüstri zinciri yapısını, üst ve alt akışın durumunu, arz-talep ilişkisini ve gelecekteki gelişimini inceleyeceğiz.
GPT gibi büyük dil modellerinin ) LLM'lerinin eğitimi esasen üç aşamaya ayrılmaktadır:
Ön Eğitim: Sinir hücrelerinin en iyi parametrelerini bulmak için büyük miktarda veri girişi yapmak, bu süreç en fazla hesaplama gücünü tüketmektedir.
İnce Ayar: Model çıktısı kalitesini artırmak için az ama kaliteli bir veri seti kullanarak eğitim yapmak.
Pekiştirmeli Öğrenme: Çıktı sonuçlarını sıralamak için "ödül modeli" oluşturmak, büyük model parametrelerini yinelemek için kullanılır.
Büyük modellerin performansını etkileyen üç ana faktör: parametre sayısı, veri miktarı ve kalitesidir. Parametre sayısını p, veri miktarını ise n( Token sayısına göre hesaplayarak), gerekli hesaplama miktarını deneysel bir kural ile tahmin edebilirsiniz.
Hesaplama gücü genellikle Flops cinsinden temel birim olarak ifade edilir ve bir floating point işlemi temsil eder. Deneysel kurallara göre, büyük bir modelin önceden eğitilmesi yaklaşık 6np Flops gerektirir. Model çıktısını bekleyen ( giriş verileri için çıkarım süreci ) yaklaşık 2np Flops gerektirir.
Erken dönemlerde eğitim için genellikle CPU çipleri kullanıldı, daha sonra yavaş yavaş GPU'lara geçildi, örneğin Nvidia'nın A100, H100 çipleri gibi. GPU'lar, Tensor Core modülü aracılığıyla kayan nokta işlemleri gerçekleştirir, FP16/FP32 hassasiyeti altındaki Flops verileri, çipin hesaplama yeteneğini ölçme açısından önemli bir göstergedir.
GPT-3 örneğinde olduğu gibi, 1750 milyar parametre ve 1800 milyar Token veri miktarına sahiptir. Bir ön eğitim yaklaşık 3.1510^22 Flops, yani 3.1510^10 TFLOPS gerektirir. Bir NVIDIA H100 SXM çipi kullanarak GPT-3'ü bir kez ön eğitmek yaklaşık 584 gün sürmektedir.
Eğitim büyük modellerinin çok büyük hesaplama gücü gerektirdiği, birden fazla en son teknoloji çipin birlikte çalışması gerektiği görülebilir. GPT-4'ün parametre sayısı ve veri miktarı, GPT-3'ün on katıdır, bu da 100 katından fazla çip gücü gerektirebilir.
Büyük model eğitiminde, veri depolama zorluklarla karşı karşıya kalmaktadır. GPT-3'ün verileri yaklaşık 570GB, parametreler ise yaklaşık 700GB yer kaplamaktadır. GPU belleği genellikle daha küçüktür, ( örneğin A100 80GB'dir ), bu nedenle tüm verileri barındıramaz, bu yüzden çip bant genişliğini dikkate almak gerekir. Çoklu GPU eğitimi sırasında çipler arası veri transfer hızı da önemlidir. Bazen eğitim hızını sınırlayan darboğaz, hesaplama gücü değil, veri transfer hızıdır.
Derin öğrenme endüstri zinciri esasen aşağıdaki birkaç aşamayı içerir:
( 1. Donanım GPU sağlayıcısı
NVIDIA, AI GPU çipleri alanında kesin bir lider konumundadır. Akademik camia genellikle RTX serisi gibi tüketici seviyesindeki GPU'ları ) kullanırken, sanayi genellikle H100, A100 gibi ticari çipleri kullanmaktadır. Google'ın da kendi geliştirdiği TPU çipleri bulunmaktadır, ancak bunlar esas olarak Google Cloud hizmetlerinde kullanılmaktadır.
2023'te Nvidia H100 çipi piyasaya sürüldüğünde büyük bir sipariş aldı, talep fazlası oluştu. 2023 yılının sonunda H100 sipariş miktarı 500 binden fazla oldu. Nvidia'ya olan bağımlılığı ortadan kaldırmak için Google, GPU'ları ortaklaşa geliştirmek umuduyla CUDA Birliği'ni kurdu.
![Yeni Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-609c5dd6ee0abcec6bf9c118d7741867.webp(
) 2. Bulut Hizmet Sağlayıcısı
Bulut hizmet sağlayıcıları, sınırlı bütçeye sahip AI şirketlerine esnek hesaplama gücü ve barındırma eğitim çözümleri sunmak için büyük miktarda GPU satın alarak yüksek performanslı hesaplama kümeleri oluşturur. Üç ana kategoriye ayrılır:
( 3. Eğitim veri kaynağı sağlayıcıları
Büyük model eğitimi, büyük miktarda veri gerektirir. Bazı şirketler, finans, sağlık, kimya gibi çeşitli sektörler için özel veri setleri sunmaktadır.
) 4. Veritabanı Sağlayıcısı
Yapay zeka eğitimi, büyük miktarda yapılandırılmamış verinin verimli bir şekilde depolanmasını ve işlenmesini gerektirir, bu nedenle özel "vektör veritabanları" ortaya çıkmıştır. Başlıca oyuncular arasında Chroma, Zilliz, Pinecone gibi isimler bulunmaktadır.
5. Kenar Cihazı
GPU kümesi büyük miktarda ısı üretir, bu nedenle stabil çalışmayı sağlamak için bir soğutma sistemine ihtiyaç vardır. Şu anda ana olarak hava soğutma kullanılmakta, ancak sıvı soğutma sistemleri yatırımcıların ilgisini çekmektedir. Enerji arzı açısından, bazı teknoloji şirketleri jeotermal, hidrojen, nükleer gibi temiz enerji kaynaklarına yatırım yapmaya başlamıştır.
6. AI Uygulamaları
Şu anda AI uygulamalarının gelişimi, blok zinciri endüstrisine benziyor; altyapı kalabalık ama uygulama geliştirme nispeten geride. İlk on ayda aktif olan AI uygulamalarının çoğu arama türü ürünlerken, sosyal gibi diğer tür uygulamalar oldukça az. AI uygulamalarının kullanıcı tutma oranı da genellikle geleneksel internet uygulamalarından daha düşük.
Genel olarak, derin öğrenme endüstri zinciri hızlı bir gelişim gösteriyor, ancak birçok zorlukla da karşı karşıya. Hesaplama gücü talebi sürekli artıyor, veri ve enerji tüketimi büyük, uygulama senaryoları daha da genişletilmelidir. Gelecekte, endüstri zincirinin her aşaması, daha büyük ölçekli ve daha verimli AI model eğitimi ve uygulamalarını desteklemek için sürekli olarak optimize edilecek ve güncellenecektir.
![Yeni Başlayanlar İçin Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-f37fb0100218188368f4d31940aab2a3.webp###
Kripto Para ve AI'nın İlişkisi
Blok Zinciri teknolojisinin çekirdeği merkeziyetsizlik ve güvenin ortadan kaldırılmasıdır. Bitcoin'in bir eşler arası elektronik nakit sistemi olarak, Ethereum'un akıllı sözleşmeler platformuna kadar, blok zinciri esasen bir değer ağıdır ve her işlem, temel token'in değerine dayalı bir değer alışverişidir.
Geleneksel internette, değer P/E gibi göstergelerle hisse fiyatı ve piyasa değeri olarak hesaplanır. Ancak Blok Zinciri ağında, yerel token'lar çok boyutlu değerlerin bir yansıması olarak, yalnızca staking gelirleri elde etmekle kalmaz, aynı zamanda değer değişim aracı, değer saklama aracı ve ağ etkinliklerinin tüketim maddesi gibi işlevler de görür.
Token ekonomisinin önemi, ağdaki herhangi bir işlev veya düşünceye değer atfetmesidir. Token'lar, AI endüstri zincirinin her aşamasında değer yeniden şekillendirmeyi sağlayarak daha fazla insanın AI alt alanlarında derinlemesine çalışmasını teşvik eder. Aynı zamanda, token'ların iş birliği etkisi, altyapının değerini artıracak ve "şişman protokol, ince uygulama" yapısını oluşturacaktır.
Blok Zinciri teknolojisinin değiştirilemez ve güvene ihtiyaç duymayan özellikleri, AI endüstrisine de gerçek değer katabilir:
Sonuç olarak, token ekonomisi AI endüstrisinin değerinin yeniden şekillenmesini ve keşfini teşvik edebilir, merkeziyetsiz defter güven sorununu çözebilir ve değerin küresel ölçekte yeniden akışını sağlayabilir. Bu birleşim, AI endüstrisine yeni bir gelişim dinamiği ve fırsatlar getirecektir.
![Yeni Başlayanlar için Bilgilendirme丨AI x Kripto: Sıfırdan Zirveye]###https://img-cdn.gateio.im/webp-social/moments-8848582a34ba293d15afae15d90e3c95.webp(
Kripto Para Sektörü AI Sanayi Zinciri Proje Genel Görünümü
) GPU arz tarafı
Şu anda, ana blok zinciri GPU bulut hesaplama projeleri arasında Render, Golem gibi projeler bulunmaktadır. Render, daha olgun bir proje olarak, esas olarak video renderlama gibi geleneksel görevleri hedef alır ve katı anlamda AI alanına girmez. Ancak, GPU bulut pazarı yalnızca AI model eğitimi ve çıkarımı için değil, aynı zamanda geleneksel renderlama için de uygulanabilir, bu da tek bir pazara olan bağımlılık riskini azaltır.
Sektör tahminlerine göre, 2024 yılında GPU hesaplama gücü talebi yaklaşık 75 milyar dolar olacak, 2032'de ise 773 milyar dolara ulaşacak ve yıllık bileşik büyüme oranı %33.86 olacak. GPU'ların hızlı bir şekilde yenilenmesiyle birlikte, paylaşılabilir GPU hesaplama gücüne olan talep önemli ölçüde artacak çünkü çok sayıda güncel olmayan atıl GPU kaynağı ortaya çıkacak.
Donanım Bant Genişliği
Bant genişliği genellikle bulut bilişim performansını etkileyen anahtar faktördür, özellikle merkeziyetsiz GPU paylaşım ağları için. Meson Network gibi bazı projeler bu sorunu bant genişliğini paylaşarak çözmeye çalışıyor, ancak coğrafi konumdan kaynaklanan gecikmelerin hala önlenmesi zor olduğu için pratikte etkisi sınırlıdır.
( verileri
AI veri sağlayıcıları arasında EpiK Protocol, Synesis One, Masa gibi projeler bulunmaktadır. Geleneksel Web2 veri şirketlerine kıyasla, blok zinciri projeleri veri toplama konusunda avantajlara sahiptir ve kişisel veri katkıları için teşvikler sunabilir. Sıfır bilgi kanıtları gibi gizlilik hesaplama teknolojileri ile birleştirildiğinde, daha geniş veri paylaşımının gerçekleştirilmesi umulmaktadır.
) ZKML
Veri gizliliği koruma altında model eğitimi ve çıkarımı gerçekleştirmek için bazı projeler sıfır bilgi kanıtı çözümleri kullanmaktadır. Tipik projeler arasında Axiom, Risc Zero gibi projeler bulunmaktadır ve bunlar zincir dışı hesaplama ve veri için ZK kanıtı sağlamaktadır. Bu tür genel ZK projelerinin uygulama sınırları daha geniştir ve yatırımcılar için daha çekicidir.