A ideia de que a tecnologia e a moral andam de mãos dadas é tão antiga quanto os dois conceitos. Quando os livros começaram a circular nas primeiras sociedades humanas, muitos temiam que esta nova “tecnologia” fosse imoral. Adversos à mudança, alguns sábios e anciãos viam os livros como um instrumento nocivo de transmissão de conhecimento, que ameaçaria a nossa capacidade de memória e retenção de informação. Hoje, a ideia de que os livros podem ser uma tecnologia imoral é praticamente cómica. Mas a velha questão da tecnologia e da moralidade continua a ser pertinente; as preocupações dos membros mais conservadores da sociedade mantêm-se, independentemente do objecto tecnológico em questão.
Foi assim com o nascimento da imprensa, com o aparecimento da rádio, e com a massificação da televisão. Mas em quase todos os casos, a tecnologia venceu. A disseminação tecnológica quase nunca foi colocada em suspenso devido às preocupações morais de uma ou outra classe de cidadãos. Sendo assim, por que devem os carros autónomos ser tratados de forma diferente? Como todas as inovações tecnológicas, carros que se conduzem sozinhos são vistos como uma forma de melhorar a nossa sociedade, e podem estar na base de uma nova economia de pelos menos 7 biliões de dólares, segundo um estudo da Intel. Vão permitir que pessoas que anteriormente não podiam conduzir se desloquem facilmente de um lado para o outro, vão dar origem a um sector de transporte de passageiros mais barato e eficiente, e podem mesmo contribuir para aumentar o nível de segurança das nossas estradas. Mas então, qual é o problema?

A excepção à regra

Na tradicional discussão da tecnologia e da moral, há um argumento que parece ganhar sempre: o mal em si não está na tecnologia, mas na forma como esta é usada. É uma ideia simples mas extremamente poderosa. A televisão não é má em si, porque pode ser usada para todo o tipo de fins. Se um programa televisivo se esforçar por aumentar o nível de conhecimento dos seus espectadores, munindo-os com informação válida e pertinente, então podemos dizer que a televisão está a ser usada de forma moral. Se, por outro lado, um programa televisivo tiver como único fim a manutenção do poder político através da disseminação de mentiras, podemos dizer que a televisão está a ser usada de forma imoral. O mesmo acontece com a Internet. Quando a world wide web surgiu, muitas pessoas ficaram preocupadas com a extensão do seu alcance. Mas deve a Internet ser considerada imoral apenas porque permite o acesso a serviços controversos como os sites para adultos, os sites de poker online da 888, ou os fóruns secretos de facções políticas radicais? Claro que não. Mesmo que a Internet seja usada de forma ocasional para o mal (a problemática das fake news é a grande temática actual), é inegável que esta tecnologia melhorou de forma significativa a qualidade de vida de todas as sociedades, contribuindo para um mundo mais transparente, justo, e equilibrado.
No entanto, os carros autónomos são, no que diz respeito à computação de uma moralidade, uma excepção à regra. Ao contrário de quase todas as restantes tecnologias produzidas pelas sociedades humanas, os carros autónomos tratam-se de uma tecnologia activa, que funcionará como um agente social. Basicamente, os carros autónomos são a primeira máquina verdadeiramente moral, porque estão integrados na nossa sociedade de uma forma automática. O consentimento dos pedestres é irrelevante: ninguém vai precisar de assinar os termos de serviço e responsabilidade para dar de caras com um carro autónomo a caminho do trabalho. Dizer que um carro autónomo está isento de qualquer espécie de responsabilidade moral seria o mesmo que dizer que os condutores estão isentos de qualquer responsabilidade relativamente às acções que escolhem tomar quando estão atrás do volante. E é neste ponto que a questão se adensa.

Chegar ao fundo da questão

De modo a explorar este problema de forma mais profunda, o projecto Moral Machine convida todos os seus utilizadores a simular alguns cenários em que um carro autónomo pode vir a ser forçado a tomar decisões muito difíceis. Os utilizadores são depois incentivados a fazer uma escolha. Os dilemas são ficcionais, mas perfeitamente plausíveis: numa situação em que um carro autónomo deve escolher entre bater contra um muro ou atropelar um pedestre, deve ele dar prioridade aos passageiros do veículo ou às pessoas que estão na rua? Num cenário em que um carro autónomo deve escolher entre atropelar uma criança ou atropelar dois adultos, deve a vida de um menor ser tratada de forma privilegiada? Estes são apenas dois exemplos dos vários cenários acerca dos quais é possível especular.
Num momento em que preocupações morais semelhantes têm vindo a ser aplicadas a outras novas tecnologias, como a Inteligência Artificial ou o reconhecimento facial, de que maneira podemos calcular os riscos da disseminação dos carros autónomos, e de que forma podemos contornar as dificuldades morais em causa? É uma questão cada vez mais urgente, até porque os carros autónomos estão mesmo prestes a tornar-se parte do nosso dia-a-dia.