Os condutores de teste da Tesla estão a revelar detalhes preocupantes sobre o projeto “Rodeo”, uma iniciativa da empresa que leva ao limite o sistema de condução autónoma, colocando em risco tanto os próprios condutores como o público em geral.
Uma nova investigação, baseada em entrevistas com nove antigos condutores de teste, expõe as práticas questionáveis da Tesla no desenvolvimento do seu sistema de condução autónoma. Os relatos são particularmente alarmantes quando se trata da equipa de “intervenção crítica”.
Os condutores descrevem turnos de oito horas repletos de adrenalina, onde são instruídos a permitir que o veículo cometa erros deliberadamente, intervindo apenas em último recurso para evitar acidentes. Esta abordagem controversa visa recolher mais dados sobre o comportamento do sistema em situações extremas.
Uma estratégia que levanta questões éticas
A equipa de “intervenção crítica” do projeto Rodeo tem instruções específicas para deixar o software continuar a controlar o veículo mesmo após cometer erros. Os condutores relatam situações em que os carros ultrapassaram semáforos vermelhos, mudaram de faixa abruptamente e ignoraram limites de velocidade.
Um dos casos mais alarmantes envolveu um ciclista que foi forçado a saltar da sua bicicleta quando o veículo avançou na sua direção. “Lembro-me vividamente deste rapaz a saltar da bicicleta. Estava aterrorizado. O carro investiu contra ele, e tudo o que pude fazer foi pisar os travões a fundo”, relatou um dos condutores.
Surpreendentemente, a equipa considerou o incidente um sucesso, pois permitiu recolher dados valiosos sobre o comportamento do sistema em situações críticas. Esta perspetiva levanta sérias questões sobre a ética da empresa no desenvolvimento da tecnologia.
Diferenças cruciais face à concorrência
Em contraste com a Tesla, outras empresas do setor, como a Waymo, realizam testes semelhantes em ambientes controlados, utilizando manequins e infraestruturas fechadas. Esta abordagem permite testar os limites da tecnologia sem colocar em risco vidas humanas.
A metodologia da Tesla reflete a sua filosofia de “avançar rápido e quebrar coisas”, uma abordagem que pode ser adequada para desenvolvimento de software convencional, mas questionável quando aplicada a sistemas que podem afetar diretamente a segurança pública.
Os riscos de uma abordagem agressiva
Apesar de nenhum dos condutores entrevistados ter relatado acidentes graves, todos descreveram situações potencialmente fatais que envolveram pedestres e outros utilizadores da via pública, que inadvertidamente se tornaram parte das experiências sem o seu conhecimento ou consentimento.
Esta revelação contrasta fortemente com as declarações públicas de Elon Musk sobre a prioridade dada à segurança na Tesla. Os testemunhos dos condutores de teste sugerem que a empresa está disposta a correr riscos significativos para acelerar o desenvolvimento do seu sistema de condução autónoma.
Outros artigos interessantes:
