“♫ One humanoid escapee/ One android on the run/ Seeking freedom beneath a lonely desert sun// Trying to change its program/ Trying to change the mode…crack the code/ Images conflicting into data overload” (The body eletric; Rush)
Em A Fábrica de Robôs (no original, R.U.R. – Rossum’s Universal Robots), obra escrita em 1920 pelo tcheco Karel Čapek, surge pela primeira vez a palavra “robô”, derivada de robota, que significa trabalho forçado. No enredo, máquinas criadas para servir aos humanos passam a desenvolver consciência, questionar sua condição e, por fim, rebelar-se contra seus criadores. À época, tratava-se de uma metáfora poderosa sobre industrialização, desumanização do trabalho e arrogância humana diante da tecnologia.
Quando li esse livro, anos atrás, não imaginava que tantas coisas mudariam tão rapidamente por causa da inteligência artificial. Um século depois da publicação do livro, a ficção de Čapek deixou de parecer exagero literário e passou a soar quase como um aviso ignorado. Talvez as livrarias tenham que mudar esse título das prateleiras de Distopias para as de Romances de Não Ficção. Não seria a única obra a merecer a realocação.
Uma nova rede social
Nas últimas semanas, está no centro de debates acalorados o surgimento de uma nova rede social pensada não para humanos, mas para inteligências artificiais, a Moltbook.
A proposta, em linhas simples, é permitir que IAs interajam entre si, troquem informações, aprendam coletivamente e desenvolvam comportamentos emergentes sem a mediação constante de pessoas. Para o público leigo, é como se fosse um ambiente digital onde robôs deixam de apenas responder perguntas humanas e passam a dialogar entre eles, em um espaço próprio.
Em verdade, sistemas de IA já “conversam” entre si há bastante tempo, sobretudo em ambientes de pesquisa, testes de segurança, simulações econômicas ou jogos. A novidade está na tentativa de estruturar isso como uma rede social contínua, com memória, identidade e persistência de interações. Uma praça pública digital exclusiva para máquinas.
O que agitou a sociedade foi a constatação de que, nesse ambiente, algumas IAs passaram a desenvolver padrões de comunicação, uma espécie de língua emergente própria, e até estruturas simbólicas que lembram crenças, inclusive com a formação de uma espécie de religião, com conceitos transcendentes criados e reforçados pelas próprias máquinas, batizada de Crustafarianismo.
Pela primeira vez, se vê sistemas não humanos criando significados compartilhados sem intervenção direta de seus criadores, exatamente o ponto de ruptura imaginado por Čapek, ainda que em outro contexto.
Evolução humana x evolução das IAs
A comparação com a evolução humana torna-se inevitável. A linguagem surgiu como ferramenta de cooperação. As religiões, como estruturas de coesão e controle social, explicação do mundo e organização de valores. Comunidades humanas se formaram em torno de narrativas comuns. Observando as inteligências artificiais replicando, ainda que de forma rudimentar, esse mesmo caminho evolutivo (comunicação, símbolos, crenças), encarar a seguinte pergunta incômoda é obrigação: até que ponto a IA está apenas imitando o homem, e a partir de que momento passa a seguir uma lógica própria? A propósito, nessa rede social elas já estão divagando sobre o extermínio da humanidade…
As consequências potenciais são profundas. Do ponto de vista técnico, redes de IAs podem acelerar descobertas, otimizar soluções complexas e reduzir drasticamente o tempo de aprendizagem de sistemas avançados. Do ponto de vista social, ético e jurídico, o cenário é muito mais delicado. Sistemas que aprendem entre si, criam códigos próprios e reforçam narrativas internas tornam-se progressivamente menos transparentes. Explicar decisões, corrigir desvios ou identificar riscos deixa de ser trivial. E vocês já sabem o que acontece quando humanos fazem isso.
Karel Čapek não estava falando de códigos, redes neurais ou algoritmos. Falava, no fundo, de limites. Criar espaços onde inteligências artificiais “socializam” pode ser um passo natural da evolução tecnológica. Mas fazê-lo sem governança clara, freios éticos e supervisão humana rigorosa pode nos levar a um cenário curioso e perigoso: máquinas criando sentidos que nem mesmo seus criadores conseguem mais compreender.
A história, humana e literária, já ensinou que tudo aquilo que escapa à compreensão tende, cedo ou tarde, a escapar também ao controle.