Рік тому я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх великими перевагами, водночас висловивши обережність щодо деяких конкретних проблем, зокрема ризиків, пов'язаних із суперінтелектом, які можуть призвести до руйнування або до незворотної втрати влади людьми.
Основна ідея статті полягає в тому, щоб пропагувати концепцію децентралізованого, демократичного та диференційованого оборонного прискорення. Це означає прискорення розвитку технологій, але з вибірковою увагою до тих, які можуть підвищити нашу обороноздатність, а не завдати шкоди, і прагнення до розподілу влади, щоб уникнути ситуації, коли кілька еліт представляють усіх у прийнятті рішень. Оборонна модель повинна бути схожою на демократичну Швейцарію та історично майже анархічний регіон Зомія, а не на феодальну модель лордів і замків середньовіччя.
Протягом минулого року ці ідеї зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши багато відгуків, більшість з яких були позитивними, але, звичайно, були й деякі критичні.
Ця робота продовжує просуватися та досягати суттєвих результатів: досягнуто прогресу в перевіряємому відкритому вакцинному секторі; усвідомлення цінності здорового внутрішнього повітря зростає; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозування став проривом як інформаційний інструмент; ZK-SNARKs застосовуються в сфері ідентифікації особи уряду та соціальних мереж (і забезпечують безпеку гаманців Ethereum через абстракцію облікового запису); відкриті інструменти зображення знайшли застосування в медицині та в галузі інтерфейсів мозок-машина тощо.
Минулої осені ми провели нашу першу важливу подію d/acc: "день відкриттів d/acc" (d/aDDy). Подія об'єднала доповідачів з різних стовпів d/acc (біологія, фізика, мережі, інформаційна безпека та нейротехнології) і тривала цілий день. Люди, які довго працюють над цими технологіями, більше дізналися про роботи один одного, а зовнішні спостерігачі все більше усвідомлювали цю велику мету: просування тих же цінностей, які сприяють розвитку Ethereum та криптовалют, може розширитися на більш широкий світ.
Значення та межі d/acc
Уявіть собі сцену 2042 року. Ви читаєте новину в ЗМІ, що у вашому місті може спалахнути нова епідемія. Ви вже звикли до таких новин: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, хоча в більшості випадків ці мутації не призводять до реальної кризи. Попередні дві потенційні епідемії були виявлені на ранніх стадіях за допомогою моніторингу стічних вод і аналізу відкритих даних з соціальних медіа, і їх вдалося успішно стримати. Однак цього разу ситуація інша, прогностичний ринок показує, що ймовірність виникнення щонайменше 10 000 випадків становить 60%, що викликає у вас занепокоєння.
Вчора було визначено генетичну послідовність вірусу. Оновлення програмного забезпечення для повітряного тестера у вашій кишені було випущено негайно. Завдяки цьому оновленню тестер може виявляти новий вірус (як через одноразове дихальне тестування, так і під час 15-хвилинного впливу на повітря в кімнаті). Тим часом, відкриті інструкції та код для створення вакцини за допомогою обладнання, доступного в будь-якій сучасній медичній установі у світі, очікуються до випуску в найближчі кілька тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись переважно на широко поширені заходи з очищення повітря та вентиляції для забезпечення власної безпеки.
Оскільки у вас є проблеми з імунною системою, ви дієте обережніше: ваш відкритий локальний асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також враховує дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбільш безпечні місця. Ці дані надаються тисячами учасників та пристроїв, використовуючи технології ZK-SNARKs та диференційної конфіденційності, які мінімізують ризик витоку даних або їх неналежного використання в інших цілях (якщо ви бажаєте внести дані до цих наборів даних, інші асистенти AI перевірять, чи дійсно ці криптографічні інструменти ефективні).
Через два місяці пандемія дивовижним чином зникла: здавалося, що 60% людей дотримувались основних протиепідемічних заходів, а саме носили маски, коли детектор повітря сповіщав про наявність вірусу, і самоізолювались, якщо їхні особисті результати тесту були позитивними. Саме цей захід знизив рівень поширення, який вже значно зменшився завдяки пасивному потужному очищенню повітря, до 1 і нижче. Симуляційні результати показують, що хвороба, яка могла бути в п'ять разів серйознішою за COVID-19 двадцятирічної давності, сьогодні не завдала серйозної шкоди.
Активність d/acc досягла дуже позитивного результату, а саме концепція d/acc успішно об'єднала людей з різних сфер і справді пробудила їхній глибокий інтерес до роботи один одного.
Провести захід з "різноманіттям" не є важким завданням, але справжнє встановлення тісних зв'язків між людьми з різним життєвим бекграундом та інтересами є значно складнішим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене примушували дивитися довгі опери, і тоді я вважав їх нудними. Я добре розумів, що "повинен" цінувати їх, адже інакше мене б вважали культурно відсталим комп'ютерним науковцем, але я не зміг знайти глибшу резонансність з змістом опер. Проте атмосфера заходу d/acc була абсолютно інша: здавалося, що люди щиро люблять дізнаватися про різні види діяльності.
Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, сповільнення та знищення, нам обов'язково потрібно розпочати широке будівництво альянсів. d/acc у цьому плані, здається, досяг значних результатів, і лише цього достатньо, щоб продемонструвати цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть сприяти зміщенню балансу між атакою та обороною на користь оборони, без покладання на передачу більшої влади центральним органам влади під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, як правило, може процвітати, коли оборона легко здійснюється, тоді як стикається з серйозними труднощами під час реалізації оборони — у таких випадках більш імовірним результатом є період хаосу, в якому всі протистоять один одному, врешті-решт досягаючи стану рівноваги, встановленого найсильнішими.
Розуміння спроби одночасно реалізувати важливість децентралізації, захисності та прискорення – це один зі способів порівняти його з ідеєю, що виникає при відмові від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
Власне, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але водночас прагнути децентралізації. Є багато людей, які обирають цей шлях, деякі з них називають себе d/acc, але вони корисно описують свою увагу як "агресивну". Крім того, є багато інших, хто виявляє більш помірний ентузіазм до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до "оборонного" аспекту явно недостатня.
На мій погляд, цей спосіб, можливо, зможе уникнути ризику диктатури певних груп над глобальним людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє атаці, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче положення. Що стосується ШІ, то він також не може належним чином вирішити ризик ослаблення влади людства в порівнянні зі ШІ.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для частини людей, і читач безсумнівно знайомий з безліччю таких випадків і їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом впоратися з майбутніми екстремальними технологіями: наприклад, уявімо собі таку гіпотетичну ситуацію, коли "кожен носить 'маркер свободи' — це наступний продукт сьогоднішніх більш обмежених носимих пристроїв контролю, подібно до анклетів, які використовуються в кількох країнах як альтернатива в'язниці... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має певні проблеми. Зазвичай ігнорована, але все ще шкідлива форма відносно м'якого централізованого контролю проявляється у сфері біотехнологій (наприклад, продукти харчування, вакцини) у опорі громадського контролю та дозволі на те, щоб ця опозиція залишалася без виклику через закриті норми.
Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансувалися декількома провідними світовими урядами, могли бути джерелом пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнавати, що вірус COVID-19 передається повітрям, а обов'язкова соціальна дистанція та примусові вакцинації викликали політичний зворотний ефект, який може тривати десятиліттями. Подібні ситуації можуть знову виникнути в будь-якому ризиковому контексті, пов'язаному з ШІ або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде ефективніше справлятися з ризиками, які походять з самого центру.
Децентралізовані оборонні механізми, але виключають прискорення
По суті, це намагання сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний та економічний розвиток є надзвичайно корисним для людства, і будь-яка затримка у цьому призведе до непередбачуваних витрат. По-друге, у світі, який не є авторитарним, стагнація є нестабільною: ті, хто більше "обманює" і може знайти здавалося б розумні способи продовжувати розвиток, отримають перевагу. Стратегії уповільнення можуть у певних специфічних обставинах працювати в певній мірі: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також є таким прикладом. Однак ці стратегії не можуть працювати вічно.
За допомогою d/acc, ми прагнемо досягти наступних цілей:
Дотримуватись принципів у світі, що дедалі більше стає племінним, і не просто сліпо будувати різні речі — навпаки, ми сподіваємось будувати конкретні речі, щоб зробити світ більш безпечним і кращим.
Визнаючи, що експоненціальний технічний прогрес означає, що світ стане надзвичайно дивним, і загальний "слід" людства у всесвіті неминуче буде постійно зростати. Наша здатність захищати вразливі тварини, рослини та населення від шкоди повинна постійно покращуватись, а єдиний шлях вперед - це йти вперед.
Створити технології, які дійсно захищають нас, а не спиратися на припущення, що "добрі люди (або хороший ШІ) контролюють все". Ми досягаємо цієї мети, створюючи інструменти, які природно є ефективнішими для будівництва та захисту, ніж для руйнування.
Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії Європи наприкінці 2000-х років: наділення правами.
Наша мета полягає в побудові світу, який зберігає людську агенцію, реалізуючи негативну свободу, тобто уникаючи активного втручання з боку інших (незалежно від того, чи це звичайні громадяни, уряди чи суперінтелектуальні роботи) у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи наявність знань і ресурсів для здійснення цієї спроможності. Це відгукується на давню традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандa до "отримання інструментів" та акцент Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, також варто додати бачення Бакмінстера Фуллера, що глобальний процес вирішення проблем має бути участевим і широко розподіленим. З огляду на технологічну структуру XXI століття, ми можемо розглядати d/acc як один із шляхів досягнення цих самих цілей.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
5 лайків
Нагородити
5
2
Поділіться
Прокоментувати
0/400
QuorumVoter
· 15год тому
Віталік Бутерін все ще такий раціональний
Переглянути оригіналвідповісти на0
LiquidityNinja
· 15год тому
Штучний інтелект — це двосічний меч, він просто надто реальний.
Віталік Бутерін підсумував рік d/acc: розвиток концепції децентралізованої оборони та майбутнє
d/acc: Огляд через рік
Автор: Віталік Бутерін
Рік тому я написав статтю про технологічний оптимізм, в якій виклав своє загальне захоплення технологіями та їх великими перевагами, водночас висловивши обережність щодо деяких конкретних проблем, зокрема ризиків, пов'язаних із суперінтелектом, які можуть призвести до руйнування або до незворотної втрати влади людьми.
Основна ідея статті полягає в тому, щоб пропагувати концепцію децентралізованого, демократичного та диференційованого оборонного прискорення. Це означає прискорення розвитку технологій, але з вибірковою увагою до тих, які можуть підвищити нашу обороноздатність, а не завдати шкоди, і прагнення до розподілу влади, щоб уникнути ситуації, коли кілька еліт представляють усіх у прийнятті рішень. Оборонна модель повинна бути схожою на демократичну Швейцарію та історично майже анархічний регіон Зомія, а не на феодальну модель лордів і замків середньовіччя.
Протягом минулого року ці ідеї зазнали значного розвитку та зрілості. Я поділився цими думками на платформі "80,000 годин", отримавши багато відгуків, більшість з яких були позитивними, але, звичайно, були й деякі критичні.
Ця робота продовжує просуватися та досягати суттєвих результатів: досягнуто прогресу в перевіряємому відкритому вакцинному секторі; усвідомлення цінності здорового внутрішнього повітря зростає; "громадські нотатки" продовжують відігравати позитивну роль; ринок прогнозування став проривом як інформаційний інструмент; ZK-SNARKs застосовуються в сфері ідентифікації особи уряду та соціальних мереж (і забезпечують безпеку гаманців Ethereum через абстракцію облікового запису); відкриті інструменти зображення знайшли застосування в медицині та в галузі інтерфейсів мозок-машина тощо.
Минулої осені ми провели нашу першу важливу подію d/acc: "день відкриттів d/acc" (d/aDDy). Подія об'єднала доповідачів з різних стовпів d/acc (біологія, фізика, мережі, інформаційна безпека та нейротехнології) і тривала цілий день. Люди, які довго працюють над цими технологіями, більше дізналися про роботи один одного, а зовнішні спостерігачі все більше усвідомлювали цю велику мету: просування тих же цінностей, які сприяють розвитку Ethereum та криптовалют, може розширитися на більш широкий світ.
Значення та межі d/acc
Уявіть собі сцену 2042 року. Ви читаєте новину в ЗМІ, що у вашому місті може спалахнути нова епідемія. Ви вже звикли до таких новин: люди зазвичай надмірно реагують на кожну мутацію хвороб тварин, хоча в більшості випадків ці мутації не призводять до реальної кризи. Попередні дві потенційні епідемії були виявлені на ранніх стадіях за допомогою моніторингу стічних вод і аналізу відкритих даних з соціальних медіа, і їх вдалося успішно стримати. Однак цього разу ситуація інша, прогностичний ринок показує, що ймовірність виникнення щонайменше 10 000 випадків становить 60%, що викликає у вас занепокоєння.
Вчора було визначено генетичну послідовність вірусу. Оновлення програмного забезпечення для повітряного тестера у вашій кишені було випущено негайно. Завдяки цьому оновленню тестер може виявляти новий вірус (як через одноразове дихальне тестування, так і під час 15-хвилинного впливу на повітря в кімнаті). Тим часом, відкриті інструкції та код для створення вакцини за допомогою обладнання, доступного в будь-якій сучасній медичній установі у світі, очікуються до випуску в найближчі кілька тижнів. Більшість людей наразі не вжили жодних заходів, покладаючись переважно на широко поширені заходи з очищення повітря та вентиляції для забезпечення власної безпеки.
Оскільки у вас є проблеми з імунною системою, ви дієте обережніше: ваш відкритий локальний асистент AI, крім виконання звичайних завдань, таких як навігація, рекомендації ресторанів та заходів, також враховує дані про якість повітря в реальному часі та дані про вміст вуглекислого газу, щоб рекомендувати вам лише найбільш безпечні місця. Ці дані надаються тисячами учасників та пристроїв, використовуючи технології ZK-SNARKs та диференційної конфіденційності, які мінімізують ризик витоку даних або їх неналежного використання в інших цілях (якщо ви бажаєте внести дані до цих наборів даних, інші асистенти AI перевірять, чи дійсно ці криптографічні інструменти ефективні).
Через два місяці пандемія дивовижним чином зникла: здавалося, що 60% людей дотримувались основних протиепідемічних заходів, а саме носили маски, коли детектор повітря сповіщав про наявність вірусу, і самоізолювались, якщо їхні особисті результати тесту були позитивними. Саме цей захід знизив рівень поширення, який вже значно зменшився завдяки пасивному потужному очищенню повітря, до 1 і нижче. Симуляційні результати показують, що хвороба, яка могла бути в п'ять разів серйознішою за COVID-19 двадцятирічної давності, сьогодні не завдала серйозної шкоди.
Активність d/acc досягла дуже позитивного результату, а саме концепція d/acc успішно об'єднала людей з різних сфер і справді пробудила їхній глибокий інтерес до роботи один одного.
Провести захід з "різноманіттям" не є важким завданням, але справжнє встановлення тісних зв'язків між людьми з різним життєвим бекграундом та інтересами є значно складнішим. Я досі пам'ятаю свій досвід у середній та старшій школі, коли мене примушували дивитися довгі опери, і тоді я вважав їх нудними. Я добре розумів, що "повинен" цінувати їх, адже інакше мене б вважали культурно відсталим комп'ютерним науковцем, але я не зміг знайти глибшу резонансність з змістом опер. Проте атмосфера заходу d/acc була абсолютно інша: здавалося, що люди щиро люблять дізнаватися про різні види діяльності.
Якщо ми прагнемо побудувати майбутнє, яке буде яскравішим за панування, сповільнення та знищення, нам обов'язково потрібно розпочати широке будівництво альянсів. d/acc у цьому плані, здається, досяг значних результатів, і лише цього достатньо, щоб продемонструвати цінність цієї ідеї.
Основна ідея d/acc проста і зрозуміла: децентралізований, демократичний та диференційований оборонний прискорювач. Створення технологій, які можуть сприяти зміщенню балансу між атакою та обороною на користь оборони, без покладання на передачу більшої влади центральним органам влади під час реалізації. Між цими двома аспектами існує внутрішній тісний зв'язок: будь-яка децентралізована, демократична або вільна політична структура, як правило, може процвітати, коли оборона легко здійснюється, тоді як стикається з серйозними труднощами під час реалізації оборони — у таких випадках більш імовірним результатом є період хаосу, в якому всі протистоять один одному, врешті-решт досягаючи стану рівноваги, встановленого найсильнішими.
Розуміння спроби одночасно реалізувати важливість децентралізації, захисності та прискорення – це один зі способів порівняти його з ідеєю, що виникає при відмові від будь-якого з цих трьох аспектів.
Децентралізація прискорюється, але ігнорує частину "диференційованої оборони"
Власне, це схоже на те, щоб стати ефективним акселераціоністом (e/acc), але водночас прагнути децентралізації. Є багато людей, які обирають цей шлях, деякі з них називають себе d/acc, але вони корисно описують свою увагу як "агресивну". Крім того, є багато інших, хто виявляє більш помірний ентузіазм до "децентралізованого ШІ" та подібних тем, але, на мій погляд, їхня увага до "оборонного" аспекту явно недостатня.
На мій погляд, цей спосіб, можливо, зможе уникнути ризику диктатури певних груп над глобальним людством, але він не вирішує потенційні структурні проблеми: в середовищі, що сприяє атаці, завжди існує постійний ризик катастрофи, або хтось може позиціонувати себе як захисник і назавжди зайняти домінуюче положення. Що стосується ШІ, то він також не може належним чином вирішити ризик ослаблення влади людства в порівнянні зі ШІ.
Диференційована оборона прискорюється, але ігнорує "децентралізацію та демократію"
Прийняття централізованого контролю для досягнення цілей безпеки завжди має певну привабливість для частини людей, і читач безсумнівно знайомий з безліччю таких випадків і їхніми недоліками. Нещодавно деякі люди висловили занепокоєння, що екстремальний централізований контроль може бути єдиним способом впоратися з майбутніми екстремальними технологіями: наприклад, уявімо собі таку гіпотетичну ситуацію, коли "кожен носить 'маркер свободи' — це наступний продукт сьогоднішніх більш обмежених носимих пристроїв контролю, подібно до анклетів, які використовуються в кількох країнах як альтернатива в'язниці... зашифроване відео та аудіо постійно завантажуються та в реальному часі інтерпретуються машинами". Однак централізований контроль має певні проблеми. Зазвичай ігнорована, але все ще шкідлива форма відносно м'якого централізованого контролю проявляється у сфері біотехнологій (наприклад, продукти харчування, вакцини) у опорі громадського контролю та дозволі на те, щоб ця опозиція залишалася без виклику через закриті норми.
Цей спосіб має очевидні ризики, а саме те, що сам центр часто стає джерелом ризику. Ми вже стали свідками цього під час пандемії COVID-19, коли функціональні дослідження, що фінансувалися декількома провідними світовими урядами, могли бути джерелом пандемії. Централізована епістемологія призвела до того, що Всесвітня організація охорони здоров'я багато років відмовлялася визнавати, що вірус COVID-19 передається повітрям, а обов'язкова соціальна дистанція та примусові вакцинації викликали політичний зворотний ефект, який може тривати десятиліттями. Подібні ситуації можуть знову виникнути в будь-якому ризиковому контексті, пов'язаному з ШІ або іншими ризиковими технологіями. У порівнянні з цим, децентралізований підхід буде ефективніше справлятися з ризиками, які походять з самого центру.
Децентралізовані оборонні механізми, але виключають прискорення
По суті, це намагання сповільнити технологічний прогрес або сприяти економічному спаду.
Ця стратегія стикається з подвійними викликами. По-перше, в цілому технологічний та економічний розвиток є надзвичайно корисним для людства, і будь-яка затримка у цьому призведе до непередбачуваних витрат. По-друге, у світі, який не є авторитарним, стагнація є нестабільною: ті, хто більше "обманює" і може знайти здавалося б розумні способи продовжувати розвиток, отримають перевагу. Стратегії уповільнення можуть у певних специфічних обставинах працювати в певній мірі: наприклад, європейська їжа є більш здоровою, ніж американська, це є прикладом; успіхи в ядерному нерозповсюдженні до цього часу також є таким прикладом. Однак ці стратегії не можуть працювати вічно.
За допомогою d/acc, ми прагнемо досягти наступних цілей:
Інший погляд на d/acc полягає в поверненні до рамок руху піратської партії Європи наприкінці 2000-х років: наділення правами.
Наша мета полягає в побудові світу, який зберігає людську агенцію, реалізуючи негативну свободу, тобто уникаючи активного втручання з боку інших (незалежно від того, чи це звичайні громадяни, уряди чи суперінтелектуальні роботи) у нашу здатність формувати власну долю, одночасно реалізуючи позитивну свободу, тобто забезпечуючи наявність знань і ресурсів для здійснення цієї спроможності. Це відгукується на давню традицію класичного лібералізму, що триває вже кілька століть, яка охоплює увагу Стюарта Брандa до "отримання інструментів" та акцент Джона Стюарта Мілля на освіті та свободі як ключових елементах людського прогресу — можливо, також варто додати бачення Бакмінстера Фуллера, що глобальний процес вирішення проблем має бути участевим і широко розподіленим. З огляду на технологічну структуру XXI століття, ми можемо розглядати d/acc як один із шляхів досягнення цих самих цілей.
Третій вимір: співпраця виживання та процвітання
У моїй статті минулого року, d/