Setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat keseluruhan saya terhadap teknologi dan manfaat besar yang ditawarkannya, sambil juga menyatakan kehati-hatian terhadap beberapa isu tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh AI super cerdas atau risiko kehilangan kekuasaan oleh manusia secara tidak terbalik.
Poin utama dari artikel ini adalah mendorong suatu ide pertahanan yang terdesentralisasi, demokratis, dan berdiferensiasi. Ini berarti mempercepat perkembangan teknologi, tetapi secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita daripada yang menyebabkan kerusakan, dan berkomitmen untuk mendistribusikan kekuasaan, menghindari keputusan yang diambil oleh sekelompok elit yang mewakili semua orang. Model pertahanan seharusnya mirip dengan Swiss yang demokratis dan daerah Zomia yang hampir anarkis dalam sejarah, bukan model tuan dan kastil di bawah feodalisme abad pertengahan.
Selama setahun terakhir, ide-ide ini telah mengalami perkembangan dan pematangan yang signifikan. Saya membagikan pandangan ini di platform "80,000 jam" dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini terus berjalan dan telah mencapai hasil yang substansial: kemajuan telah dicapai dalam bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; "Catatan Komunitas" terus berperan positif; pasar prediksi mengalami tahun terobosan sebagai alat informasi; ZK-SNARKs diterapkan dalam identifikasi pemerintah dan bidang media sosial (dan memastikan keamanan dompet Ethereum melalui abstraksi akun); alat pencitraan sumber terbuka telah diterapkan di bidang medis dan antarmuka otak-mesin, dan sebagainya.
Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Penemuan d/acc" (d/aDDy). Acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc (biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf) dan berlangsung selama sehari penuh. Orang-orang yang telah lama berkecimpung dalam teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ruang Lingkup d/acc
Bayangkan skenario di tahun 2042. Anda melihat berita di media yang mengatakan bahwa kota Anda mungkin mengalami wabah baru. Anda sudah terbiasa dengan berita semacam ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam banyak kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua wabah potensial sebelumnya terdeteksi pada tahap awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dihentikan. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa ada kemungkinan 60% untuk munculnya setidaknya 10.000 kasus, yang membuat Anda merasa khawatir.
Baru kemarin, urutan gen virus telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru (baik melalui pengujian sekali napas, atau setelah terpapar udara dalam ruangan selama 15 menit). Pada saat yang sama, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan apapun, terutama bergantung pada langkah-langkah filtrasi udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka sendiri.
Karena Anda memiliki masalah imun, Anda harus bertindak lebih hati-hati: asisten AI lokal sumber terbuka yang Anda gunakan, selain menangani tugas-tugas biasa seperti navigasi, rekomendasi restoran, dan acara, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan menggunakan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain (jika Anda berniat untuk menyumbangkan data untuk kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif).
Dua bulan kemudian, pandemi menghilang secara ajaib: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara memberi peringatan dan menunjukkan adanya virus, serta melakukan isolasi mandiri jika hasil tes pribadi positif. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menimbulkan dampak serius.
Kegiatan d/acc telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata memicu minat mereka yang kuat terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dari latar belakang dan minat yang berbeda benar-benar menjalin koneksi yang erat adalah hal yang tidak mudah. Saya masih ingat dengan jelas pengalaman dipaksa menonton opera yang panjang saat SMP dan SMA, di mana saya pribadi merasa opera tersebut membosankan. Saya tahu saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari ini sangat berbeda: terasa bahwa orang-orang benar-benar menyukai untuk memahami berbagai jenis pekerjaan di bidang yang berbeda.
Jika kita ingin membangun masa depan yang lebih cerah dibandingkan dengan kekuasaan, perlambatan, dan penghancuran, kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya hal ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang mampu mendorong keseimbangan serangan dan pertahanan menuju pertahanan, tanpa bergantung pada pemberian lebih banyak kekuasaan kepada otoritas pusat selama proses pelaksanaan. Ada hubungan erat yang inheren antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah diterapkan, tetapi menghadapi tantangan serius ketika pertahanan sulit dilakukan—dalam kasus-kasus tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling berhadapan, yang akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya berusaha untuk mencapai desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan gagasan yang dihasilkan dari melepaskan salah satu dari ketiga aspek ini.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"
Secara esensial, ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, di mana beberapa menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi bagi saya, perhatian mereka terhadap aspek "pertahanan" tampak sangat kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kekuasaan otoriter terhadap umat manusia global oleh kelompok tertentu, tetapi ia tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang mungkin menempatkan dirinya sebagai pelindung dan secara permanen mengambil posisi dominan. Dalam hal AI, ia juga tidak dapat dengan baik menangani risiko pengurangan kekuasaan umat manusia dibandingkan dengan AI.
Percepatan pertahanan diferensiasi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang; pembaca pasti sudah akrab dengan banyak contoh semacam itu, serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah tingkat pada kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat, yang biasanya diabaikan tetapi tetap berbahaya, tercermin dalam penolakan pengawasan publik di bidang bioteknologi (misalnya makanan, vaksin), serta membiarkan perilaku penolakan ini tanpa tantangan melalui norma-norma sumber tertutup.
Risiko dari cara ini sangat jelas, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kami telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang dibiayai oleh beberapa pemerintah dunia utama mungkin merupakan sumber pandemi, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang wajib dan mandat vaksin memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko yang terkait dengan AI atau teknologi berisiko lainnya. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi manusia, dan penundaan apapun akan membawa biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan memperoleh keuntungan. Strategi pelambatan dapat berfungsi hingga batas tertentu dalam konteks tertentu: misalnya, makanan Eropa lebih sehat daripada makanan Amerika, ini adalah sebuah contoh; keberhasilan non-proliferasi hingga saat ini juga demikian. Namun, strategi ini tidak dapat selalu efektif.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Dalam tren dunia yang semakin tertribalisasi, menegakkan prinsip, bukan sekadar membangun berbagai hal secara membabi buta - sebaliknya, kami berharap untuk membangun hal-hal tertentu, sehingga dunia menjadi lebih aman dan lebih baik.
Menyadari bahwa kemajuan teknologi yang eksponensial berarti dunia akan menjadi sangat unik, dan "jejak" keseluruhan manusia di alam semesta pasti akan terus meningkat. Kemampuan kita untuk melindungi hewan, tumbuhan, dan kelompok rentan dari bahaya harus terus ditingkatkan, dan satu-satunya jalan keluar adalah maju terus.
Membangun teknologi yang benar-benar melindungi kita, bukan berdasarkan asumsi "orang baik (atau AI baik) mengendalikan segalanya". Kami mencapai tujuan ini dengan membangun alat yang secara alami lebih efektif untuk membangun dan melindungi dibandingkan untuk merusak.
Pemikiran tentang d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir tahun 2000-an: pemberdayaan.
Tujuan kami adalah membangun dunia yang mampu mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain (baik itu warga sipil biasa, pemerintah, atau robot super cerdas) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill terhadap pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga bisa ditambahkan visi Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan terdistribusi luas. Mengingat lanskap teknologi abad ke-21, kami dapat memandang d/acc sebagai salah satu cara untuk mencapai tujuan-tujuan yang sama.
Dimensi Ketiga: Sinergi antara Bertahan Hidup dan Kemakmuran
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
5 Suka
Hadiah
5
2
Bagikan
Komentar
0/400
QuorumVoter
· 20jam yang lalu
Vitalik Buterin masih begitu rasional
Lihat AsliBalas0
LiquidityNinja
· 20jam yang lalu
AI adalah pedang bermata dua, sungguh terlalu nyata.
Vitalik Buterin meninjau ulang satu tahun d/acc: perkembangan dan masa depan ide akselerasi pertahanan Desentralisasi
d/acc: Tinjauan Setelah Satu Tahun
Penulis: Vitalik Buterin
Setahun yang lalu, saya menulis sebuah artikel tentang optimisme teknologi, menjelaskan semangat keseluruhan saya terhadap teknologi dan manfaat besar yang ditawarkannya, sambil juga menyatakan kehati-hatian terhadap beberapa isu tertentu, terutama risiko kehancuran yang mungkin ditimbulkan oleh AI super cerdas atau risiko kehilangan kekuasaan oleh manusia secara tidak terbalik.
Poin utama dari artikel ini adalah mendorong suatu ide pertahanan yang terdesentralisasi, demokratis, dan berdiferensiasi. Ini berarti mempercepat perkembangan teknologi, tetapi secara selektif fokus pada teknologi yang dapat meningkatkan kemampuan pertahanan kita daripada yang menyebabkan kerusakan, dan berkomitmen untuk mendistribusikan kekuasaan, menghindari keputusan yang diambil oleh sekelompok elit yang mewakili semua orang. Model pertahanan seharusnya mirip dengan Swiss yang demokratis dan daerah Zomia yang hampir anarkis dalam sejarah, bukan model tuan dan kastil di bawah feodalisme abad pertengahan.
Selama setahun terakhir, ide-ide ini telah mengalami perkembangan dan pematangan yang signifikan. Saya membagikan pandangan ini di platform "80,000 jam" dan menerima banyak umpan balik, sebagian besar positif, tentu saja ada juga beberapa kritik.
Pekerjaan ini terus berjalan dan telah mencapai hasil yang substansial: kemajuan telah dicapai dalam bidang vaksin sumber terbuka yang dapat diverifikasi; kesadaran orang tentang nilai udara dalam ruangan yang sehat terus meningkat; "Catatan Komunitas" terus berperan positif; pasar prediksi mengalami tahun terobosan sebagai alat informasi; ZK-SNARKs diterapkan dalam identifikasi pemerintah dan bidang media sosial (dan memastikan keamanan dompet Ethereum melalui abstraksi akun); alat pencitraan sumber terbuka telah diterapkan di bidang medis dan antarmuka otak-mesin, dan sebagainya.
Musim gugur lalu, kami mengadakan acara d/acc penting pertama: "Hari Penemuan d/acc" (d/aDDy). Acara ini mengumpulkan pembicara dari berbagai bidang pilar d/acc (biologi, fisika, jaringan, pertahanan informasi, dan teknologi saraf) dan berlangsung selama sehari penuh. Orang-orang yang telah lama berkecimpung dalam teknologi ini semakin memahami pekerjaan satu sama lain, dan orang luar juga semakin menyadari visi yang lebih besar ini: nilai-nilai yang mendorong perkembangan Ethereum dan cryptocurrency dapat diperluas ke dunia yang lebih luas.
Makna dan Ruang Lingkup d/acc
Bayangkan skenario di tahun 2042. Anda melihat berita di media yang mengatakan bahwa kota Anda mungkin mengalami wabah baru. Anda sudah terbiasa dengan berita semacam ini: orang sering bereaksi berlebihan terhadap setiap mutasi penyakit hewan, dan dalam banyak kasus, mutasi ini pada akhirnya tidak memicu krisis nyata. Dua wabah potensial sebelumnya terdeteksi pada tahap awal melalui pemantauan limbah dan analisis sumber terbuka di media sosial, dan berhasil dihentikan. Namun, kali ini situasinya berbeda, pasar prediksi menunjukkan bahwa ada kemungkinan 60% untuk munculnya setidaknya 10.000 kasus, yang membuat Anda merasa khawatir.
Baru kemarin, urutan gen virus telah ditentukan. Pembaruan perangkat lunak untuk alat penguji udara di saku Anda segera diluncurkan, dengan pembaruan ini, alat penguji dapat mendeteksi virus baru (baik melalui pengujian sekali napas, atau setelah terpapar udara dalam ruangan selama 15 menit). Pada saat yang sama, instruksi dan kode sumber terbuka untuk menghasilkan vaksin menggunakan perangkat yang dapat diakses di fasilitas medis modern di seluruh dunia diharapkan akan dirilis dalam beberapa minggu. Sebagian besar orang saat ini belum mengambil tindakan apapun, terutama bergantung pada langkah-langkah filtrasi udara dan ventilasi yang banyak diterapkan untuk melindungi diri mereka sendiri.
Karena Anda memiliki masalah imun, Anda harus bertindak lebih hati-hati: asisten AI lokal sumber terbuka yang Anda gunakan, selain menangani tugas-tugas biasa seperti navigasi, rekomendasi restoran, dan acara, juga akan mempertimbangkan data pengujian udara waktu nyata dan data karbon dioksida, sehingga hanya merekomendasikan tempat yang paling aman untuk Anda. Data ini disediakan oleh ribuan peserta dan perangkat, dengan menggunakan teknologi ZK-SNARKs dan privasi diferensial, meminimalkan risiko data bocor atau disalahgunakan untuk tujuan lain (jika Anda berniat untuk menyumbangkan data untuk kumpulan data ini, ada asisten AI pribadi lain yang akan memverifikasi apakah alat enkripsi ini benar-benar efektif).
Dua bulan kemudian, pandemi menghilang secara ajaib: tampaknya 60% orang mengikuti protokol pencegahan dasar, yaitu mengenakan masker ketika alat penguji udara memberi peringatan dan menunjukkan adanya virus, serta melakukan isolasi mandiri jika hasil tes pribadi positif. Langkah inilah yang cukup untuk menurunkan tingkat penularan yang sudah sangat berkurang akibat penyaringan udara yang kuat secara pasif menjadi di bawah 1. Sebuah simulasi menunjukkan bahwa penyakit yang mungkin lima kali lebih parah daripada pandemi COVID-19 dua puluh tahun yang lalu, kini tidak menimbulkan dampak serius.
Kegiatan d/acc telah mencapai hasil yang sangat positif, yaitu konsep d/acc berhasil menyatukan orang-orang dari berbagai bidang dan secara nyata memicu minat mereka yang kuat terhadap pekerjaan satu sama lain.
Mengadakan acara yang "beragam" bukanlah hal yang sulit, tetapi membuat orang-orang dari latar belakang dan minat yang berbeda benar-benar menjalin koneksi yang erat adalah hal yang tidak mudah. Saya masih ingat dengan jelas pengalaman dipaksa menonton opera yang panjang saat SMP dan SMA, di mana saya pribadi merasa opera tersebut membosankan. Saya tahu saya "seharusnya" menghargainya, karena jika tidak, saya akan dianggap sebagai kutu buku ilmu komputer yang tidak berbudaya, tetapi saya tidak dapat beresonansi dengan isi opera tersebut pada tingkat yang lebih dalam. Namun, suasana acara d/acc hari ini sangat berbeda: terasa bahwa orang-orang benar-benar menyukai untuk memahami berbagai jenis pekerjaan di bidang yang berbeda.
Jika kita ingin membangun masa depan yang lebih cerah dibandingkan dengan kekuasaan, perlambatan, dan penghancuran, kita pasti perlu melakukan pembangunan aliansi yang luas ini. d/acc tampaknya telah mencapai hasil yang signifikan dalam hal ini, dan hanya hal ini saja sudah cukup untuk menunjukkan nilai berharga dari ide ini.
Inti dari pemikiran d/acc sangat jelas: desentralisasi, demokratis, dan akselerasi defensif yang berbeda. Membangun teknologi yang mampu mendorong keseimbangan serangan dan pertahanan menuju pertahanan, tanpa bergantung pada pemberian lebih banyak kekuasaan kepada otoritas pusat selama proses pelaksanaan. Ada hubungan erat yang inheren antara kedua aspek ini: setiap struktur politik yang desentralisasi, demokratis, atau bebas cenderung berkembang pesat ketika pertahanan mudah diterapkan, tetapi menghadapi tantangan serius ketika pertahanan sulit dilakukan—dalam kasus-kasus tersebut, hasil yang lebih mungkin terjadi adalah periode kekacauan di mana semua orang saling berhadapan, yang akhirnya mencapai keadaan keseimbangan yang dikuasai oleh yang terkuat.
Salah satu cara untuk memahami pentingnya berusaha untuk mencapai desentralisasi, pertahanan, dan percepatan secara bersamaan adalah dengan membandingkannya dengan gagasan yang dihasilkan dari melepaskan salah satu dari ketiga aspek ini.
Desentralisasi dipercepat, tetapi mengabaikan bagian "pertahanan diferensiasi"
Secara esensial, ini mirip dengan menjadi seorang akselerasionis yang efektif (e/acc), tetapi pada saat yang sama mengejar desentralisasi. Ada banyak orang yang mengambil pendekatan ini, di mana beberapa menyebut diri mereka d/acc, tetapi mereka secara bermanfaat menggambarkan fokus mereka sebagai "serangan". Selain itu, ada banyak orang lain yang menunjukkan antusiasme yang lebih moderat terhadap "AI desentralisasi" dan topik serupa, tetapi bagi saya, perhatian mereka terhadap aspek "pertahanan" tampak sangat kurang.
Menurut saya, cara ini mungkin dapat menghindari risiko kekuasaan otoriter terhadap umat manusia global oleh kelompok tertentu, tetapi ia tidak menyelesaikan masalah struktural yang mendasar: dalam lingkungan yang mendukung serangan, selalu ada risiko bencana yang berkelanjutan, atau seseorang mungkin menempatkan dirinya sebagai pelindung dan secara permanen mengambil posisi dominan. Dalam hal AI, ia juga tidak dapat dengan baik menangani risiko pengurangan kekuasaan umat manusia dibandingkan dengan AI.
Percepatan pertahanan diferensiasi, tetapi mengabaikan "desentralisasi dan demokrasi"
Untuk mencapai tujuan keamanan dengan menerima kontrol terpusat, ini selalu memiliki daya tarik tertentu bagi sebagian orang; pembaca pasti sudah akrab dengan banyak contoh semacam itu, serta kerugian yang ditimbulkannya. Baru-baru ini, beberapa orang khawatir bahwa kontrol terpusat yang ekstrem mungkin menjadi satu-satunya cara untuk menghadapi teknologi ekstrem di masa depan: misalnya, bayangkan skenario hipotetis di mana "setiap orang mengenakan 'label kebebasan'—ini adalah produk lanjutan dari perangkat pemantauan yang lebih terbatas saat ini, mirip dengan label pergelangan kaki yang digunakan sebagai alternatif penjara di beberapa negara...... video dan audio terenkripsi diunggah secara terus-menerus dan ditafsirkan secara real-time oleh mesin". Namun, ada masalah tingkat pada kontrol terpusat. Sebuah bentuk kontrol terpusat yang relatif moderat, yang biasanya diabaikan tetapi tetap berbahaya, tercermin dalam penolakan pengawasan publik di bidang bioteknologi (misalnya makanan, vaksin), serta membiarkan perilaku penolakan ini tanpa tantangan melalui norma-norma sumber tertutup.
Risiko dari cara ini sangat jelas, yaitu bahwa pusat itu sendiri sering kali menjadi sumber risiko. Kami telah menyaksikan hal ini selama pandemi COVID-19, di mana penelitian fungsional yang dibiayai oleh beberapa pemerintah dunia utama mungkin merupakan sumber pandemi, epistemologi yang terpusat menyebabkan Organisasi Kesehatan Dunia selama bertahun-tahun menolak untuk mengakui bahwa virus COVID-19 ditularkan melalui udara, sementara jarak sosial yang wajib dan mandat vaksin memicu kemungkinan reaksi politik yang dapat bertahan selama puluhan tahun. Situasi serupa sangat mungkin terjadi lagi dalam konteks risiko yang terkait dengan AI atau teknologi berisiko lainnya. Sebaliknya, pendekatan terdesentralisasi akan lebih efektif dalam menangani risiko yang berasal dari pusat itu sendiri.
Pertahanan terdesentralisasi, tetapi menolak percepatan
Secara esensial, ini adalah upaya untuk memperlambat kemajuan teknologi atau mendorong resesi ekonomi.
Strategi ini menghadapi dua tantangan. Pertama, secara keseluruhan, pertumbuhan teknologi dan ekonomi sangat menguntungkan bagi manusia, dan penundaan apapun akan membawa biaya yang sulit untuk diukur. Kedua, dalam dunia yang tidak otoriter, stagnasi adalah tidak stabil: mereka yang "curang" paling banyak, yang dapat menemukan cara yang tampak masuk akal untuk terus mendorong perkembangan, akan memperoleh keuntungan. Strategi pelambatan dapat berfungsi hingga batas tertentu dalam konteks tertentu: misalnya, makanan Eropa lebih sehat daripada makanan Amerika, ini adalah sebuah contoh; keberhasilan non-proliferasi hingga saat ini juga demikian. Namun, strategi ini tidak dapat selalu efektif.
Melalui d/acc, kami berkomitmen untuk mencapai tujuan berikut:
Pemikiran tentang d/acc dari sudut pandang lain adalah kembali ke kerangka gerakan Partai Bajak Laut Eropa di akhir tahun 2000-an: pemberdayaan.
Tujuan kami adalah membangun dunia yang mampu mempertahankan agensi manusia, mencapai kebebasan negatif, yaitu menghindari intervensi aktif dari orang lain (baik itu warga sipil biasa, pemerintah, atau robot super cerdas) terhadap kemampuan kami untuk membentuk nasib kami sendiri, sekaligus mencapai kebebasan positif, yaitu memastikan kami memiliki pengetahuan dan sumber daya untuk menjalankan kemampuan ini. Ini mencerminkan tradisi liberalisme klasik yang telah berlangsung selama berabad-abad, yang mencakup perhatian Stewart Brand terhadap "akses alat", serta penekanan John Stuart Mill terhadap pendidikan dan kebebasan sebagai elemen kunci kemajuan manusia—mungkin juga bisa ditambahkan visi Buckminster Fuller bahwa proses penyelesaian masalah global bersifat partisipatif dan terdistribusi luas. Mengingat lanskap teknologi abad ke-21, kami dapat memandang d/acc sebagai salah satu cara untuk mencapai tujuan-tujuan yang sama.
Dimensi Ketiga: Sinergi antara Bertahan Hidup dan Kemakmuran
Dalam artikel saya tahun lalu, d/