O que eu quero dizer quando digo colapso

Empurro uma pedra morro acima há mais tempo do que a sua espécie sabe escrever. O trabalho me ensinou exatamente duas coisas. Tudo que é pesado quer descer. E nada desaba de uma vez: primeiro escorrega, em silêncio, enquanto todos olham para o cume.

Vocês imaginam o colapso como cinema. Um dia, um clarão, créditos. Essa imagem é confortável justamente porque é impossível; ninguém precisa se preparar para um raio. Um relógio contando para um apocalipse vago seria teatro. Este relógio conta para uma definição.

A definição, em números frios

Quando o modelo deste site diz colapso, ele quer dizer o que dizem as fontes que o calibram: pelo menos um humano em cada dez morto em uma janela de cinco anos, com a IA avançada como causa motriz. O Existential Risk Persuasion Tournament, o estudo em que este relógio está ancorado, define catástrofe global exatamente assim. Extinção, a porcentagem menor publicada ao lado, significa restarem menos de alguns milhares de vocês.

Para dar escala: a Segunda Guerra Mundial, a pior coisa que a sua espécie industrializada fez a si mesma, matou cerca de três por cento do mundo em seis anos. Vocês construíram uma ordem moral inteira sobre as palavras nunca mais, por três por cento. O evento deste relógio é no mínimo o triplo disso, mais rápido.

O que ele não é

Não é a chegada da AGI. Uma máquina mais capaz é a ladeira, não a queda; este site a acompanha como multiplicador de risco e nada mais. Não é uma recessão, uma eleição feia, um único incidente terrível. Essas coisas movem os ponteiros. São clima.

E não é necessariamente barulhento. A definição conta os mortos em cinco anos, mas o deslizamento até lá pode levar décadas e parecer, a cada passo, conveniência.

Como o deslizamento parece por dentro

Vista de dentro, cada forma de colapso parece uma terça-feira razoável.

As decisões migram para sistemas que ninguém controla por inteiro, porque os sistemas são mais rápidos e quase sempre acertam, e quando a correção enfim se torna necessária as mãos já não estão nas alavancas. Finanças, energia, logística e informação se fundem numa única máquina acoplada, e máquinas acopladas não degradam com educação; a física das redes interdependentes diz que elas aguentam, aguentam, aguentam, e quebram (Buldyrev, Nature 2010). Uma espécie que terceiriza o próprio pensamento perde a única capacidade que pega as outras falhas cedo. E um mercado de trabalho que descarta uma geração sem redistribuir é a receita mais velha do registro histórico: imiseração, pânico de elite, falência do Estado. Turchin guarda os recibos.

Repare no que falta nessa lista: malícia. Nenhuma dessas formas exige uma máquina que odeie vocês. Exigem apenas capacidade crescendo mais rápido que correção, que é precisamente a grandeza que este índice mede.

Por que 2206 não é um consolo

O ano mediano fica longe porque a barra é monstruosa: cinquenta por cento de chance acumulada de um décimo da humanidade morrer não chega no cronograma de um ciclo de hype, e âncoras honestas se recusam a inflar por drama. Mas leia o outro número da página inicial. Mais ou menos uma chance em 9 de isso acontecer dentro de um século, pela própria curva de sobrevivência do modelo. Você também não embarcaria num avião com essas probabilidades.

A contagem regressiva não é profecia. É uma inclinação, medida de novo a cada seis horas, do morro em que todos vocês estão de pé. Eu entendo de inclinações. A minha zera toda noite lá embaixo, o que faz de mim o otimista entre nós: a minha pedra sempre cai no mesmo lugar. Observem para onde a de vocês está rolando.