AI та DePIN: зростання децентралізованої GPU мережі

З 2023 року AI та DePIN є популярними темами у сфері Web3, ринкова капіталізація яких досягла 30 мільярдів доларів і 23 мільярдів доларів відповідно. У цій статті буде досліджено перетин двох тем та розвиток протоколів у цій сфері.

У стеку технологій ШІ мережа DePIN забезпечує практичність для ШІ через обчислювальні ресурси. Розвиток великих технологічних компаній призвів до нестачі GPU, що змусило інших розробників недоотримувати достатню кількість GPU для обчислень. Це зазвичай призводить до вибору централізованих постачальників хмарних послуг, але через необхідність підписання неповоротних довгострокових контрактів на високопродуктивне обладнання це призводить до неефективності.

DePIN по суті пропонує більш гнучке та економічно вигідне альтернативне рішення, яке використовує винагороди у токенах для стимулювання внесків ресурсів, що відповідають цілям мережі. DePIN у сфері штучного інтелекту краудфандить ресурси GPU від приватних власників до дата-центрів, формуючи єдине постачання для користувачів, які потребують доступу до апаратного забезпечення. Ці мережі DePIN не лише надають можливості налаштування та доступу на вимогу для розробників, які потребують обчислювальної потужності, але й забезпечують додатковий дохід для власників GPU.

! Перетин AI та DePIN

Огляд AI DePIN мережі

Render є піонером P2P-мережі, що надає можливості GPU-обчислень, спочатку зосереджуючись на рендерингу графіки для створення контенту, а згодом розширивши свій обсяг, щоб включити AI-обчислювальні завдання, від нейронних відбивних полів (NeRF) до генеративного AI.

Цікава річ:

1. Заснована компанією OTOY, яка володіє технологією, що отримала Оскар.

2. GPU-мережа була використана великими компаніями розважальної індустрії, такими як Paramount Pictures, PUBG, Зоряний шлях та ін.

3. Співпраця з Stability AI та Endeavor, використовуючи GPU Render для інтеграції їхніх AI-моделей з робочим процесом рендерингу 3D-контенту.

4. Схвалення кількох обчислювальних клієнтів, інтеграція більшої кількості GPU мереж DePIN

Akash позиціонує себе як "супер-хмара" альтернативу традиційним платформам, що підтримують зберігання, GPU та CPU обчислення. Завдяки зручним для розробників інструментам, таким як контейнерна платформа Akash та обчислювальні вузли, керовані Kubernetes, вона здатна безшовно розгортати програмне забезпечення в різних середовищах, що дозволяє запускати будь-які хмарні нативні програми.

Цікава річ:

1. Щодо широких обчислювальних завдань від загальних обчислень до мережевого хостингу

2. AkashML дозволяє своїй GPU мережі запускати понад 15 000 моделей на Hugging Face, одночасно інтегруючись з Hugging Face.

3. На Akash розміщено деякі помітні програми, такі як чат-боти LLM моделі Mistral AI, модель перетворення тексту в зображення SDXL від Stability AI, а також нова базова модель AT-1 від Thumper AI.

4. Платформи для побудови метасвіту, впровадження штучного інтелекту та федеративного навчання використовують Supercloud

io.net надає доступ до розподілених GPU хмарних кластерів, які спеціалізуються на випадках використання AI та ML. Він агрегує GPU з таких областей, як дата-центри, крипто-майнери та інші децентралізовані мережі. Компанія раніше була компанією з кількісної торгівлі, і після різкого зростання цін на високопродуктивні GPU компанія перейшла до поточної діяльності.

Цікава річ:

1. Його IO-SDK сумісний з такими фреймворками, як PyTorch і Tensorflow, а його багаторівнева архітектура може автоматично динамічно розширюватися відповідно до обчислювальних потреб.

2. Підтримка створення 3 різних типів кластерів, які можна запустити за 2 хвилини

3. Сильні зусилля співпраці для інтеграції GPU інших мереж DePIN, включаючи Render, Filecoin, Aethir та Exabits

Gensyn надає обчислювальні можливості GPU, зосереджені на машинному навчанні та глибокому навчанні. Він стверджує, що досягнув більш ефективного механізму верифікації в порівнянні з існуючими методами, поєднуючи такі концепції, як використання доказів роботи для верифікації, точні протоколи на основі графіки для повторної верифікації роботи, а також ігри з стимулюванням Truebit, пов'язані з постачальниками обчислень.

Цікава річ:

1. Очікувана вартість еквівалентного GPU V100 становитиме приблизно 0,40 доларів США за годину, що дозволить значно зекономити витрати.

2. Завдяки доказовій стекуванню, можна вдосконалити попередньо навчену базову модель для виконання більш специфічних завдань.

3. Ці базові моделі будуть децентралізованими, глобальною власністю, крім апаратних обчислювальних мереж, також надаючи додаткові функції.

Aethir спеціально обладнаний корпоративними GPU, зосереджений на обчислювально інтенсивних сферах, головним чином у штучному інтелекті, машинному навчанні (ML), хмарних іграх тощо. Контейнери в його мережі виконують роль віртуальних кінцевих точок для виконання хмарних додатків, переміщаючи навантаження з локальних пристроїв до контейнерів для забезпечення низької затримки. Щоб забезпечити користувачам високоякісні послуги, вони переміщують GPU ближче до джерел даних відповідно до потреби та місця розташування, коригуючи ресурси.

Цікава річ:

1. Окрім штучного інтелекту та хмарних ігор, Aethir також розширився до хмарних телефонних послуг і співпрацює з APhone для запуску децентралізованого хмарного смарт-телефону.

2. Встановлено широкі партнерські відносини з великими компаніями Web2, такими як NVIDIA, Super Micro, HPE, Foxconn та Well Link.

3. Багато партнерів у Web3, таких як CARV, Magic Eden, Sequence, Impossible Finance тощо

Phala Network виступає як виконавчий шар для рішень Web3 AI. Його блокчейн є бездокументальним хмарним рішенням, що розроблено для вирішення проблем конфіденційності за допомогою використання його надійного середовища виконання (TEE). Його виконавчий шар не використовується як обчислювальний шар для AI моделей, а дозволяє AI агентам контролюватися смарт-контрактами на ланцюгу.

Цікава частина:

1. Виконує роль протоколу кооперативних обчислень, водночас забезпечуючи AI-агентів можливістю доступу до ресурсів в ланцюгу.

2. Його агентські контракти на базі штучного інтелекту можуть отримати доступ до провідних великих мовних моделей, таких як OpenAI, Llama, Claude та Hugging Face через Redpill.

3. Майбутнє включатиме zk-докази, багатосторонні обчислення (MPC), повну гомоморфну криптографію (FHE) та інші багатократні системи доказів.

4. В майбутньому підтримка H100 та інших TEE GPU, підвищення обчислювальної потужності

! Перетин AI та DePIN

Порівняння проектів

| | Рендер | Акаш | io.net | Генсин | Етір | Пхала | |--------|-------------|------------------|---------------------|---------|---------------|----------| | Апаратне забезпечення | Графічний процесор & Центральний процесор | Графічний процесор & Центральний процесор | Графічний процесор & Центральний процесор | Відеокарта | Відеокарта | Центральний процесор | | Бізнес-орієнтири | Графічний рендеринг та ШІ | Хмарні обчислення, рендеринг та ШІ | ШІ | ШІ | Штучний інтелект, хмарні ігри та телекомунікації | Виконання ШІ на ланцюгу | | Типи завдань AI | Висновок | Обидва | Обидва | Навчання | Навчання | Виконання | | Ціноутворення | Ціноутворення на основі ефективності | Зворотні аукціони | Ринкове ціноутворення | Ринкове ціноутворення | Система тендерів | Розрахунок прав | | Блокчейн | Солана | Космос | Солана | Генсин | Арбітраж | Горошок | | Дані конфіденційності | Шифрування&хешування | mTLS-автентифікація | Шифрування даних | Безпечне відображення | Шифрування | TEE | | Витрати на роботу | 0,5-5% за кожну роботу | 20% USDC, 4% AKT | 2% USDC, 0,25% плата за резерв | Низькі витрати | 20% за кожну сесію | Пропорційно до суми стейкінгу | | Безпека | Доказ рендерингу | Доказ права власності | Доказ обчислення | Доказ права власності | Доказ рендерних можливостей | Спадкується з релейного ланцюга | | Завершення доказу | - | - | Доказ часу блокування | Доказ навчання | Доказ рендерингу | Доказ TEE | | Гарантія якості | Спір | - | - | Верифікатор і заявник | Нода перевірки | Віддалене підтвердження | | GPU-кластер | Ні | Так | Так | Так | Так | Ні |

Важливість

Доступність кластерних та паралельних обчислень

Розподілена обчислювальна структура реалізувала GPU-кластер, забезпечуючи більш ефективне навчання без впливу на точність моделі, водночас покращуючи масштабованість. Навчання більш складних AI-моделей потребує потужних обчислювальних потужностей, що зазвичай повинно покладатися на розподілене обчислення для задоволення їхніх потреб. З більш інтуїтивної точки зору, модель GPT-4 від OpenAI має понад 1,8 трильйона параметрів, які навчалися протягом 3-4 місяців з використанням близько 25 000 Nvidia A100 GPU в 128 кластерах.

Раніше Render і Akash пропонували лише одноразові GPU, що може обмежити їх попит на ринку GPU. Проте більшість основних проектів зараз інтегрували кластери для паралельних обчислень. io.net співпрацює з іншими проектами, такими як Render, Filecoin і Aethir, щоб залучити більше GPU до своєї мережі, і вже успішно розгорнула понад 3 800 кластерів у першому кварталі 24 року. Хоча Render не підтримує кластери, його робота подібна до кластерів, розбиваючи окремий кадр на кілька різних вузлів для одночасної обробки різних діапазонів кадрів. Phala наразі підтримує лише CPU, але дозволяє кластеризацію CPU-робітників.

Включення кластерної архітектури в мережу робочих процесів AI є дуже важливим, але кількість і типи кластерних GPU, необхідні для задоволення потреб розробників AI, є окремим питанням, яке ми обговоримо в наступних частинах.

Конфіденційність даних

Розробка AI-моделей вимагає використання великих обсягів даних, які можуть надходити з різних джерел і мати різні форми. Чутливі набори даних, такі як особисті медичні записи та фінансові дані користувачів, можуть піддаватися ризику розкриття постачальникам моделей. Компанія Samsung заборонила внутрішнє використання ChatGPT через побоювання, що чутливий код може бути завантажений на платформу, що порушить приватність, а інцидент із витоком 38 ТБ приватних даних Microsoft ще більше підкреслює важливість вжиття достатніх заходів безпеки під час використання AI. Тому наявність різних методів захисту даних є надзвичайно важливою для повернення контролю над даними постачальникам.

Більшість покритих проектів використовують якусь форму шифрування даних для захисту конфіденційності даних. Шифрування даних забезпечує захист передачі даних від постачальника даних до постачальника моделей ( отримувача даних ) в мережі. Render використовує шифрування та хешування, коли публікує результати рендерингу назад у мережу, а io.net і Gensyn застосовують якусь форму шифрування даних. Akash використовує mTLS-автентифікацію, що дозволяє лише вибраним постачальникам орендаря отримувати дані.

Однак, io.net нещодавно співпрацював з Mind Network для запуску повністю гомоморфного шифрування (FHE), що дозволяє обробляти зашифровані дані без необхідності їх попереднього розшифрування. Завдяки можливості безпечно передавати дані для навчальних цілей без розкриття особистості та змісту даних, ця інновація може краще забезпечити конфіденційність даних, ніж існуючі технології шифрування.

Phala Network впроваджує TEE, тобто захищену область у головному процесорі підключеного пристрою. Завдяки цьому механізму ізоляції він може запобігти доступу або модифікації даних зовнішніми процесами, незалежно від рівня їхніх прав, навіть особами, які мають фізичний доступ до машини. Крім TEE, він також поєднує використання zk-proofs у своєму zkDCAP валідаторі та командному рядку jtee для інтеграції з програмами на основі RiscZero zkVM.

! Перетин AI та DePIN

Обчислення завершено, підтвердження та контроль якості

Ці проекти, що пропонують GPU, можуть забезпечити обчислювальні потужності для ряду послуг. Оскільки ці послуги охоплюють широкий спектр, від рендерингу графіки до AI обчислень, кінцева якість таких завдань може не завжди відповідати стандартам користувача. Можна використовувати форму підтвердження виконання, щоб підтвердити, що конкретний GPU, який орендував користувач, дійсно був використаний для виконання необхідної служби, і перевірка якості є корисною для користувачів, які запитують виконання таких робіт.

Після завершення обчислень Gensyn та Aethir генерують докази, щоб підтвердити, що робота виконана, тоді як доказ io.net свідчить про те, що продуктивність орендованого GPU була повністю використана і не виникло жодних проблем. Gensyn та Aethir здійснюють перевірку якості вже виконаних обчислень. Для Gensyn він використовує валідаторів для повторного виконання частини згенерованих доказів, щоб звірити їх з доказами, а доноси виконують функцію додаткової перевірки для валідаторів. Тим часом Aethir використовує контрольні вузли для визначення якості обслуговування та накладає штрафи на послуги, які не відповідають стандартам. Render рекомендує використовувати процес вирішення спорів; якщо комісія з перевірки виявить проблеми у вузлах, то цей вузол буде зменшено. Phala генерує TEE-докази після завершення, щоб забезпечити виконання AI-агентом необхідних операцій на блокчейні.

! Перетин AI та DePIN

Статистичні дані обладнання

| | Рендер | Акаш | io.net | Генсин | Етір | Пхала | |-------------|--------|-------|--------|------------|