d/acc: Uma revisão após um ano

Autor: Vitalik Buterin

Há um ano, escrevi um artigo sobre otimismo tecnológico, onde expus o meu entusiasmo geral pela tecnologia e os seus enormes benefícios, ao mesmo tempo que manifestei uma atitude cautelosa em relação a certas questões específicas, especialmente os riscos de destruição que uma IA superinteligente pode trazer ou o risco de a humanidade perder de forma irreversível o seu poder.

O ponto central do artigo é promover uma filosofia de aceleração defensiva que seja descentralizada, democrática e diferenciada. Isso significa acelerar o desenvolvimento tecnológico, mas com foco seletivo naquelas tecnologias que podem aumentar nossa capacidade de defesa em vez de causar danos, e comprometer-se a descentralizar o poder, evitando que uma minoria de elites faça julgamentos em nome de todos. O modo de defesa deve ser semelhante ao da democracia suíça e à região de Zomia, historicamente quase anárquica, e não ao modelo de senhores e castelos do feudalismo medieval.

No último ano, estas ideias passaram por um desenvolvimento e amadurecimento significativos. Eu compartilhei estas opiniões na plataforma "80.000 horas", onde recebi um grande número de feedback, a maior parte positiva, mas claro que também houve algumas críticas.

Este trabalho continua a avançar e obteve resultados substanciais: progresso no campo de vacinas de código aberto verificáveis; aumento da conscientização sobre o valor do ar interior saudável; as "notas comunitárias" continuam a desempenhar um papel positivo; o mercado preditivo teve um ano de grandes avanços como ferramenta de informação; ZK-SNARKs foram aplicados em identificação de governo e redes sociais (assegurando a segurança das carteiras Ethereum através da abstração de contas); ferramentas de imagem de código aberto foram aplicadas em medicina e interfaces cérebro-máquina, entre outros.

No outono do ano passado, realizamos o nosso primeiro grande evento d/acc: "Dia de Descoberta d/acc" (d/aDDy). O evento reuniu oradores de diversos pilares do d/acc (biologia, física, redes, defesa da informação e tecnologia neural) e durou o dia inteiro. As pessoas que se dedicam a essas tecnologias há muito tempo conheceram melhor o trabalho umas das outras, e o público externo também começou a perceber essa visão mais ampla: os mesmos valores que impulsionam o desenvolvimento do Ethereum e das criptomoedas podem ser expandidos para um mundo mais amplo.

O significado e a extensão de d/acc

Imagine o cenário em 2042. Você vê uma notícia na mídia dizendo que a cidade onde você mora pode estar à beira de uma nova epidemia. Você já está acostumado a esse tipo de notícia: as pessoas tendem a reagir de forma exagerada a cada mutação de doenças animais, e na maioria das vezes essas mutações não levam a uma crise real. As duas epidemias potenciais anteriores foram detectadas precocemente e contidas com sucesso através da monitorização de águas residuais e da análise de código aberto nas redes sociais. No entanto, desta vez é diferente, o mercado de previsões indica uma probabilidade de 60% de que haja pelo menos 10.000 casos, o que o deixa preocupado.

Justo ontem, a sequência genética do vírus foi determinada. Uma atualização de software para o seu dispositivo de teste de ar de bolso foi lançada imediatamente; com esta atualização, o dispositivo pode detectar o novo vírus (seja através de um teste de respiração ou testando após estar exposto ao ar interior por 15 minutos). Ao mesmo tempo, as instruções e códigos de código aberto para gerar vacinas usando dispositivos disponíveis em qualquer instalação médica moderna global estão previstos para serem lançados em algumas semanas. A maioria das pessoas atualmente não tomou nenhuma ação, confiando principalmente em medidas de filtragem de ar e ventilação amplamente adotadas para proteger sua segurança.

Devido a problemas imunológicos, você age com mais cautela: o assistente pessoal de IA local de código aberto que você utiliza, além de realizar tarefas habituais como navegação, recomendações de restaurantes e atividades, também considera dados de testes de ar em tempo real e dados de dióxido de carbono, recomendando apenas os locais mais seguros. Esses dados são fornecidos por milhares de participantes e dispositivos, e com o uso de ZK-SNARKs e técnicas de privacidade diferencial, o risco de os dados serem vazados ou mal utilizados para outros fins é minimizado (se você estiver interessado em contribuir com dados para esses conjuntos, outros assistentes pessoais de IA irão verificar se essas ferramentas de criptografia são realmente eficazes).

Dois meses depois, a pandemia desapareceu milagrosamente: parecia que 60% das pessoas seguiam os protocolos básicos de prevenção, ou seja, usavam máscara quando o detector de ar emitia um alerta e mostrava a presença do vírus, e se o resultado do teste pessoal fosse positivo, ficavam em isolamento em casa. Foi essa medida que conseguiu reduzir ainda mais a taxa de transmissão, que já havia diminuído significativamente devido à filtragem de ar passiva, para abaixo de 1. Uma simulação mostrou que uma doença que poderia ser cinco vezes mais grave do que a pandemia de COVID-19 há vinte anos, atualmente não causou impactos severos.

A atividade d/acc obteve um resultado extremamente positivo, que é a ideia d/acc conseguiu unir pessoas de diferentes áreas e realmente despertou um forte interesse pelo trabalho uns dos outros.

Organizar um evento "diverso" não é uma tarefa difícil, mas fazer com que pessoas de diferentes origens e interesses realmente estabeleçam conexões profundas é uma tarefa árdua. Ainda me lembro claramente da experiência de ser forçado a assistir longas óperas durante o ensino fundamental e médio, momentos em que eu achava essas óperas entediantes. Eu sabia que "deveria" apreciá-las, porque caso contrário, seria visto como um preguiçoso sem cultura na área de ciência da computação, mas não consegui me conectar mais profundamente com o conteúdo das óperas. No entanto, a atmosfera do evento d/acc é completamente diferente: parece que as pessoas realmente gostam de conhecer o trabalho de diferentes áreas.

Se desejamos construir um futuro mais brilhante do que dominação, desaceleração e destruição, é imprescindível desenvolver essa ampla construção de alianças. O d/acc parece ter alcançado resultados significativos nessa área, e apenas isso já é suficiente para evidenciar o valor precioso dessa ideia.

A ideia central do d/acc é clara e concisa: uma aceleração defensiva descentralizada, democrática e diferenciada. Construir tecnologias que possam favorecer um equilíbrio entre ataque e defesa em direção à defesa, sem depender de entregar mais poder a autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a prosperar quando a defesa é fácil de implementar, e enfrenta severos desafios quando a defesa é difícil — nessas situações, o resultado mais provável é um período de caos onde todos se opõem, levando eventualmente a um estado de equilíbrio dominado pelos mais fortes.

Uma forma de entender a importância de tentar implementar simultaneamente a descentralização, a defesa e a aceleração é compará-la com as ideias geradas ao abdicar de qualquer um desses três aspectos.

Aceleração da descentralização, mas ignorando a parte de "defesa diferenciada"

Em essência, isso é semelhante a se tornar um eficaz aceleracionista (e/acc), mas ao mesmo tempo buscando a descentralização. Muitas pessoas adotam essa abordagem, algumas das quais se autodenominam d/acc, mas descrevem seu foco de maneira benéfica como "ofensivo". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "IA descentralizada" e tópicos semelhantes, mas, na minha opinião, eles têm uma atenção visivelmente insuficiente em relação ao aspecto "defensivo".

Na minha opinião, esta abordagem pode evitar o risco de um grupo específico exercer um domínio ditatorial sobre a humanidade global, mas não resolve os problemas estruturais potenciais: em um ambiente que favorece a ofensiva, sempre existe o risco contínuo de desastres, ou alguém pode se posicionar como protetor e ocupar permanentemente a posição de domínio. No que diz respeito à IA, ela também não consegue lidar adequadamente com o risco de a humanidade, como um todo, ter seu poder diminuído em relação à IA.

Defesa diferenciada acelerada, mas ignora "descentralização e democracia"

Para alcançar objetivos de segurança, a aceitação do controle centralizado sempre teve um certo apelo para algumas pessoas; os leitores sem dúvida já estão familiarizados com muitos casos desse tipo e os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupações de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine-se um cenário hipotético onde 'cada pessoa usa uma etiqueta de liberdade' - um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhante às etiquetas de tornozelo usadas como alternativas prisionais em alguns países... vídeos e áudios criptografados são continuamente enviados e interpretados em tempo real por máquinas. No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente branda, que geralmente é ignorada mas ainda assim prejudicial, se manifesta na resistência à supervisão pública no campo da biotecnologia (como alimentos e vacinas) e na permissão para que essa resistência ocorra sem contestação através de normas de código fechado.

Os riscos desta abordagem são evidentes, sendo que o próprio centro frequentemente se torna a fonte do risco. Já testemunhámos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ter sido a origem da pandemia, e uma epistemologia centralizada levou a Organização Mundial de Saúde a recusar, durante anos, reconhecer que o vírus COVID se espalha pelo ar, enquanto o distanciamento social obrigatório e a obrigatoriedade da vacina provocaram uma reação política que pode durar décadas. Situações semelhantes são muito prováveis de ocorrer novamente em qualquer cenário de risco relacionado com a IA ou outras tecnologias de risco. Em comparação, uma abordagem descentralizada lidará de forma mais eficaz com os riscos provenientes do próprio centro.

Defesa descentralizada, mas rejeição da aceleração

Em essência, isso é uma tentativa de desacelerar o progresso tecnológico ou de promover uma recessão econômica.

Esta estratégia enfrenta duplo desafio. Em primeiro lugar, de um modo geral, o crescimento tecnológico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso terá custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, encontrando maneiras aparentemente razoáveis de continuar avançando no desenvolvimento, estarão em vantagem. A estratégia de desaceleração pode funcionar em certos contextos específicos até certo ponto: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, este é um exemplo; o sucesso da não proliferação nuclear até agora também é assim. No entanto, essas estratégias não podem funcionar para sempre.

Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:

• Manter princípios na tendência crescente de tribalização no mundo atual, e não apenas construir coisas de forma cega - pelo contrário, esperamos construir coisas específicas que tornem o mundo mais seguro e melhor.
• Reconhecer que o progresso tecnológico exponencial significa que o mundo se tornará extraordinariamente peculiar, e a "pegada" geral da humanidade no universo inevitavelmente aumentará. A nossa capacidade de proteger os animais, plantas e populações vulneráveis de danos deve ser continuamente aprimorada, e a única saída é seguir em frente.
• Construir tecnologias que realmente nos protejam, em vez de se basear na suposição de que "pessoas boas (ou IA boa) controlam tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.

Uma outra perspectiva sobre o d/acc é voltar a um quadro do movimento dos Piratas Europeus no final da década de 2000: empoderamento.

O nosso objetivo é construir um mundo que possa preservar a agência humana, realizando a liberdade negativa, ou seja, evitando a intervenção ativa de outros (sejam cidadãos comuns, governos ou robôs superinteligentes) na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que realizamos a liberdade positiva, assegurando que temos o conhecimento e os recursos para praticar essa capacidade. Isso ecoa uma tradição do liberalismo clássico que se estende por séculos, abrangendo a atenção de Stewart Brand à "obtenção de ferramentas", assim como a ênfase de John Stuart Mill na educação e na liberdade como elementos chave do progresso humano — talvez também se possa adicionar a visão de Buckminster Fuller de que o processo de resolver problemas globais deve ser participativo e amplamente distribuído. Dada a paisagem tecnológica do século XXI, podemos ver o d/acc como uma forma de alcançar esses mesmos objetivos.

Terceira Dimensão: Desenvolvimento Sinérgico da Sobrevivência e Prosperidade

No meu artigo do ano passado, d/