d/acc: Revisión después de un año

Autor: Vitalik Buterin

Hace un año, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y sus enormes beneficios, al mismo tiempo que expresé una actitud cautelosa hacia ciertos problemas específicos, especialmente el riesgo de destrucción que podría conllevar la superinteligencia AI o el riesgo de que la humanidad pierda el poder de forma irreversible.

El punto central del artículo aboga por una filosofía de aceleración defensiva que sea descentralizada, democrática y diferenciada. Esto significa acelerar el desarrollo tecnológico, pero enfocándose selectivamente en aquellas tecnologías que pueden mejorar nuestra capacidad de defensa en lugar de causar daño, y comprometerse a descentralizar el poder, evitando que unos pocos elitistas tomen decisiones en nombre de todos. El modelo defensivo debería ser similar a la democracia suiza y a la región de Zomia, que históricamente ha sido casi anárquica, en lugar del modelo de señores y castillos bajo el feudalismo medieval.

En el último año, estas ideas han experimentado un desarrollo y maduración significativos. Compartí estas perspectivas en la plataforma "80,000 horas" y recibí una gran cantidad de comentarios, la mayoría de los cuales fueron positivos, aunque también hubo algunas críticas.

Este trabajo en sí mismo ha continuado avanzando y ha logrado resultados sustanciales: se han logrado avances en el campo de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable sigue aumentando; las "notas comunitarias" continúan teniendo un papel positivo; el mercado de predicciones ha tenido un año de grandes avances como herramienta informativa; los ZK-SNARKs se han aplicado en la identificación gubernamental y en el ámbito de las redes sociales (y han asegurado la seguridad de las billeteras de Ethereum a través de la abstracción de cuentas); herramientas de imagen de código abierto han encontrado aplicaciones en medicina y en interfaces cerebro-máquina, entre otros.

El otoño pasado, organizamos nuestro primer evento importante de d/acc: "Día de Descubrimiento de d/acc" (d/aDDy). El evento reunió a oradores de diversos campos pilares de d/acc (biología, física, redes, defensa de la información y tecnología neural) y duró todo un día. Las personas que han estado comprometidas con estas tecnologías durante mucho tiempo se conocieron mejor entre sí, y los externos también se dieron cuenta cada vez más de esta visión más amplia: los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden extenderse a un mundo más amplio.

La connotación y denotación de d/acc

Imagina la escena del año 2042. Ves en los reportes de los medios una noticia que dice que en tu ciudad podría estallar una nueva pandemia. Ya te has acostumbrado a este tipo de noticias: la gente tiende a reaccionar de manera exagerada ante cada mutación de enfermedades animales, y en la mayoría de los casos, estas mutaciones no terminan desencadenando una crisis real. Las dos anteriores potenciales pandemias fueron detectadas en una etapa temprana y contenidas con éxito a través del monitoreo de aguas residuales y análisis de fuentes abiertas en redes sociales. Sin embargo, esta vez la situación es diferente, los mercados de predicción muestran una probabilidad del 60% de que haya al menos 10,000 casos, lo que te preocupa.

Justo ayer, se determinó la secuencia genética de este virus. Se lanzó una actualización de software para el medidor de aire en tu bolsillo, gracias a la cual el medidor puede detectar el nuevo virus (ya sea mediante una prueba de respiración única o tras 15 minutos de exposición al aire interior de una habitación). Al mismo tiempo, se espera que se publiquen las instrucciones y el código de código abierto para generar vacunas utilizando equipos que se pueden obtener en cualquier instalación médica moderna del mundo en unas pocas semanas. La mayoría de las personas aún no han tomado ninguna acción, confiando principalmente en las medidas de filtración de aire y ventilación ampliamente adoptadas para protegerse.

Debido a tus problemas de inmunidad, actúas con más precaución: el asistente personal de IA de código abierto que utilizas, además de realizar tareas habituales como navegación, recomendaciones de restaurantes y actividades, también considera datos de pruebas de aire en tiempo real y datos de dióxido de carbono, recomendándote solo los lugares más seguros. Estos datos son proporcionados por miles de participantes y dispositivos, y gracias a las tecnologías ZK-SNARKs y privacidad diferencial, se minimiza el riesgo de que los datos sean filtrados o mal utilizados para otros fines (si deseas contribuir con datos a estos conjuntos de datos, hay otros asistentes personales de IA que verificarán si estas herramientas de cifrado son realmente efectivas).

Dos meses después, la pandemia se disipó milagrosamente: parecía que el 60% de las personas seguían los protocolos básicos de prevención, es decir, usaban mascarillas cuando el medidor de aire emitía una alarma y mostraba la presencia del virus, y se aislaban en casa si el resultado de la prueba personal era positivo. Esta medida fue suficiente para reducir aún más la tasa de transmisión, que ya había disminuido drásticamente debido a la filtración de aire pasiva, a menos de 1. Un simulacro mostró que una enfermedad que podría ser cinco veces más grave que la pandemia de COVID-19 de hace veinte años, sin embargo, no ha causado un impacto serio.

La actividad d/acc ha logrado un resultado extremadamente positivo, que es que la filosofía d/acc ha conseguido unir a personas de diferentes campos y ha realmente estimulado su gran interés por el trabajo de los demás.

Organizar un evento con "diversidad" no es difícil, pero lograr que personas de diferentes orígenes e intereses establezcan conexiones genuinas es bastante complicado. Aún recuerdo vívidamente mi experiencia en la escuela secundaria y preparatoria, donde me vi obligado a ver largas óperas, las cuales me parecían aburridas en ese momento. Sabía que "se suponía" que debía apreciarlas, ya que de lo contrario sería visto como un perezoso de ciencias de la computación sin cultura, pero no pude resonar a un nivel más profundo con el contenido de la ópera. Sin embargo, la atmósfera del evento d/acc fue completamente diferente: se sentía que la gente realmente disfrutaba aprender sobre los diversos trabajos en diferentes campos.

Si deseamos construir un futuro más brillante que el dominio, la desaceleración y la destrucción, es necesario llevar a cabo esta amplia construcción de alianzas. d/acc parece haber logrado un progreso significativo en este aspecto, y solo esto es suficiente para resaltar el valioso valor de esta idea.

La idea central de d/acc es clara y concisa: aceleración defensiva descentralizada, democrática y diferenciada. Construir tecnologías que puedan inclinar el equilibrio entre ataque y defensa hacia la defensa, sin depender de otorgar más poder a una autoridad central durante el proceso de implementación. Existe una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre suele prosperar cuando la defensa es fácil de implementar, mientras que enfrenta severos desafíos cuando la defensa se encuentra con dificultades. En esos casos, el resultado más probable es un período de caos donde todos se enfrentan entre sí, que finalmente alcanza un estado de equilibrio gobernado por el más fuerte.

Una forma de entender la importancia de intentar realizar simultáneamente la descentralización, la defensa y la aceleración es compararlo con las ideas que surgen al renunciar a cualquiera de estos tres aspectos.

Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"

En esencia, esto es similar a ser un eficaz aceleracionista (e/acc), pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunas de las cuales se autodenominan d/acc, pero que de manera beneficiosa describen su enfoque como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por "IA descentralizada" y temas similares, pero en mi opinión, su atención a los aspectos de "defensa" es claramente insuficiente.

En mi opinión, este enfoque podría evitar el riesgo de que un grupo específico imponga un dominio dictatorial sobre la humanidad global, pero no resuelve los problemas estructurales subyacentes: siempre existe el riesgo continuo de un desastre en un entorno que favorece la ofensiva, o alguien podría posicionarse como protector y ocupar permanentemente una posición de dominio. En cuanto a la IA, tampoco puede abordar adecuadamente el riesgo de que la humanidad en su conjunto pierda poder en relación con la IA.

Defensa diferenciada acelerada, pero ignorando "descentralización y democracia"

Para lograr objetivos de seguridad, aceptar el control centralizado siempre ha tenido cierto atractivo para algunas personas; los lectores sin duda ya están familiarizados con numerosos ejemplos de este tipo y los inconvenientes que traen consigo. Recientemente, algunas personas temen que el control centralizado extremo pueda ser la única forma de enfrentar tecnologías extremas en el futuro: por ejemplo, imagina un escenario hipotético en el que "cada persona lleva una 'etiqueta de libertad' — que es el producto sucesor de los dispositivos de monitoreo portátiles más limitados de hoy, similar a las etiquetas de tobillo utilizadas en varios países como alternativas a la prisión... videos y audios encriptados son subidos continuamente y son interpretados en tiempo real por máquinas". Sin embargo, el control centralizado presenta un problema de grado. Una forma de control centralizado relativamente moderada, que a menudo se pasa por alto pero que sigue siendo dañina, se manifiesta en la resistencia a la supervisión pública en el ámbito de la biotecnología (por ejemplo, alimentos, vacunas), así como en permitir que esta resistencia no sea desafiada por normas de código cerrado.

Los riesgos de este enfoque son evidentes, ya que el centro mismo a menudo se convierte en la fuente del riesgo. Esto ya lo hemos presenciado durante la pandemia de COVID-19, donde las investigaciones funcionales financiadas por varios gobiernos principales del mundo podrían ser la raíz de la pandemia. La epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID-19 se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunas provocaron un posible retroceso político que podría durar décadas. Situaciones similares son muy probables que ocurran nuevamente en cualquier contexto de riesgo relacionado con la IA u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del centro mismo.

Defensa descentralizada, pero rechazo a la aceleración

En esencia, esto es un intento de frenar el avance tecnológico o impulsar una recesión económica.

Esta estrategia enfrenta dos desafíos. Primero, en general, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier retraso en ello conlleva costos incalculables. En segundo lugar, en un mundo no totalitario, el estancamiento es inestable: aquellos que "hacen trampa" en mayor medida, capaces de encontrar formas que parecen razonables para continuar avanzando en el desarrollo, tendrán ventaja. La estrategia del desaceleracionismo puede funcionar hasta cierto punto en ciertas situaciones específicas: por ejemplo, los alimentos europeos son más saludables que los alimentos estadounidenses, este es un ejemplo; el éxito logrado hasta ahora en la no proliferación nuclear también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.

A través de d/acc, nos comprometemos a lograr los siguientes objetivos:

• Mantener principios en un mundo cada vez más tribal, y no simplemente construir cosas de manera ciega; por el contrario, esperamos construir cosas específicas que hagan del mundo un lugar más seguro y mejor.
• Reconocer que el avance tecnológico exponencial significa que el mundo se volverá extremadamente peculiar, y que la "huella" total de la humanidad en el universo necesariamente seguirá aumentando. Nuestra capacidad para proteger a los animales, plantas y poblaciones vulnerables de los daños debe seguir mejorando, y la única salida es avanzar sin cesar.
• Construir tecnologías que realmente nos protejan, en lugar de basarse en la suposición de que "las buenas personas (o la buena IA) controlan todo". Logramos este objetivo construyendo herramientas que son naturalmente más efectivas para construir y proteger que para destruir.

Una perspectiva alternativa sobre d/acc es regresar a un marco del movimiento del Partido Pirata en Europa a finales de la década de 2000: empoderamiento.

Nuestro objetivo es construir un mundo que pueda preservar la agencia humana, logrando la libertad negativa, es decir, evitando que otros (ya sean ciudadanos comunes, gobiernos o robots superinteligentes) intervengan activamente en nuestra capacidad de dar forma a nuestro propio destino, al mismo tiempo que logramos la libertad positiva, asegurando que tenemos el conocimiento y los recursos para ejercer esta capacidad. Esto resuena con una tradición de liberalismo clásico que se ha prolongado durante siglos, que abarca la preocupación de Stewart Brand por el "acceso a herramientas", así como la énfasis de John Stuart Mill en la educación y la libertad como elementos clave del progreso humano—quizás también se podría añadir la visión de Buckminster Fuller de que el proceso de resolver problemas globales sea participativo y ampliamente distribuido. Dado el panorama tecnológico del siglo XXI, podemos ver d/acc como un medio para lograr estos mismos objetivos.

Tercera dimensión: desarrollo conjunto de la supervivencia y la prosperidad

En mi artículo del año pasado, d/