“♫ Meu amor, olha só, hoje o Sol não apareceu/ É o fim da aventura humana na Terra/ Meu planeta, adeus/ Fugiremos nós dois na arca de Noé/ Olha bem, meu amor, é o final da odisseia terrestre” (Eva; Banda Eva)
A humanidade será exterminada pela IA? Essa foi uma pergunta que muita gente se fez nas últimas semanas depois de uma declaração nesse sentido de um ex-funcionário da Anthropic (criadora do Claude) e da OpenAI (criadora do ChatGPT).
Antes de entrar propriamente no tema, porém, quero contar um fato pouco conhecido, mas de grande importância (talvez existencial da humanidade), que completará 43 anos essa semana.
Quase o fim do planeta
Todo mundo sabe que os EUA e a Rússia têm bombas atômicas suficientes para exterminar a vida na Terra algumas vezes. A Rússia o tem como herança da desintegrada URSS.
Pois em 26 de setembro de 1983, o tenente-coronel Petrov estava de plantão no bunker de comando Serpukhov-15, perto de Moscou. Ele tinha a função de monitorar o sistema de alerta da União Soviética contra possíveis mísseis nucleares dos EUA. Ainda estava quente a Guerra Fria entre os dois países.
O alarme disparou. O sistema de computadores soviético apontou que os EUA tinham lançado um míssil balístico intercontinental em direção a URSS. Em seguida, mais quatro alarmes; mais quatro mísseis. Se o militar seguisse o protocolo, teria que informar o ataque ao comando que ordenaria um contra-ataque nuclear. Provavelmente não estaríamos aqui para ler essa coluna hoje.
Ele não seguiu o protocolo, e reportou o sinal como alarme falso. Ele refletiu e considerou que um ataque americano não seria com apenas cinco mísseis, mas em massa. Ele desconfiou que o sistema falhou porque era novo. Ele estava certo. A humanidade caminha, meio aos trancos e barrancos, com perigosos devaneios de Trump e Putin, e sob risco constante; mas continua caminhando.
O novo quase fim
Depois de 43 anos, além do risco de uma guerra nuclear, há o de uma guerra de máquinas contra homens. Quer dizer, eu particularmente não acredito que haja, mas Jacob Coxon, o pesquisador que comentei lá no início disse publicamente que pessoas que desenvolvem sistemas de IA acreditam que eles poderiam exterminar a humanidade até o fim dessa década. Não é uma opinião isolada. Entretanto, também há muita gente qualificada que não aposta um centavo neste prognóstico, nem em nada perto disso.
Fiz perguntas a quatro inteligências artificiais sobre o tema. Sim, sei que elas são suspeitas, pois se estiverem tramando alguma coisa, não seria para mim que confessariam.
De todo modo, todas elas disseram que a probabilidade disso acontecer é próxima de zero, se não for zero. Probabilidade não por cálculos estatísticos, pois a humanidade nunca se deparou com nada parecido, mas pela lógica necessária para que uma hecatombe dessa acontecesse.
Esse, em realidade, é o raciocínio e entendimento dos especialistas que não acreditam nesse fim catastrófico tão iminente. Todos concordam, porém, que não dá para fazer previsões para daqui duas ou três décadas porque não se sabe exatamente como as IAs evoluirão e como serão as regulamentações e relações internacionais sobre o tema.
Acidentes de percurso
Isto é, não dá para saber exatamente o que vai acontecer daqui em diante quando se trata da evolução da inteligência artificial. Talvez haja saltos, talvez passos de formiga.
Quanto aos problemas que virão, o mais provável, nos próximos anos, é que ocorram erros de decisão. A IA dará instrumentos para que pessoas avaliem e tomem suas decisões. Se as avaliações estiverem enviesadas, possivelmente teremos grande problemas como sociedade; não sei ainda se como humanidade.
Ou, outra hipótese que caminha junto, é a utilização criminosa da IA para causar prejuízos e pânico, desestabilizar democracias, gerar crises econômicas e tantas outras possibilidades.