“♫ Entrei na Rua Augusta a 120 por hora/ Botei a turma toda do passeio pra fora/ Fiz curva em duas rodas sem usar a buzina/ Parei a quatro dedos da vitrina” (Rua Augusta, Ronnie Cord)

Não, não estou falando do dilema pelo qual alguns médicos podem estar passando país adentro por conta da falta de respiradores ou de oxigênio em tempos de pandemia. Estou falando de outro dilema, o do Bonde, ou The Trolley Problem, no original.

Este é um dilema ético-moral. Uma das suas versões determina que você faça uma escolha na seguinte situação: um bonde está desgovernado e tem, a sua frente, cinco pessoas amarradas nos trilhos. Você está ao lado de uma alavanca que pode mudar a direção do bonde para um trilho lateral, mas que tem uma pessoa no caminho. Se você não fizer nada, cinco pessoas morrem no trilho principal; se você puxar a alavanca, salvará cinco, mas matará uma. Você puxaria? Em outra versão, a pessoa do trilho lateral é um amigo ou um parente seu.

A Máquina Moral

Em 2014, pesquisadores do MIT desenvolveram um experimento chamado Máquina Moral, uma plataforma que coleta informações sobre decisões para carros autônomos em situações de risco e escolhas entre dois males. A plataforma ainda está acessível em diversas línguas (www.moralmachine.net). Fiz o teste. É tenso. Algumas decisões doeram na consciência.

Apenas para que não haja dúvidas, carros autônomos são aqueles sem motoristas e o teste visa entender a perspectivas humana para desenvolver as melhores alternativas para os programas que conduzirão os veículos.

A velhinha ou o bebê

Entre programar o carro para, em uma situação inevitável, atropelar e matar uma criança ou um idoso, qual tem sido a escolha que mais acontece? Entre um obeso e um cachorro? Estas parecem respostas relativamente lógicas. Mas são, talvez, as simples.

O número de envolvidos nesse exercício vai variando, assim como a qualificação deles (bebês, crianças, adultos, obesos, idosos, executivos, atletas, bandidos, pets). Em alguns casos demorei para decidir e não me conformei com a minha própria escolha.

A pesquisa nos faz refletir: os carros autônomos vêm para ficar (há projeções de que, até 2050, 80% da frota mundial será robotizada, ou seja, os automóveis serão conduzidos por programas de computador) e teremos que decidir como fazer essas programações.

E penso que isso é bom: acredito piamente que os veículos autônomos evitarão acidentes e economizarão vidas e transtornos, pois seguirão a lei. Confio mais nos robôs do que nos humanos ao volante.

Por outro lado, para situações de risco, eles deverão ser eticamente programados, sem preconceitos e ranços. E, por enquanto, quem programa são seres humanos, preconceituosos e cheios de ranços.