A saga legal do acidente fatal do carro autônomo da Uber acabou

Uber's legal saga over the fatal autonomous car accident is over.

Já se passaram mais de cinco anos desde que um carro autônomo da Uber atropelou e matou uma mulher chamada Elaine Herzberg enquanto ela atravessava a rua com sua bicicleta em Tempe, Arizona. A morte de Herzberg transformou instantaneamente o que era um dilema filosófico em uma questão legal gritante: Quem é responsabilizado por uma fatalidade no trânsito na era incerta e liminar dos carros autônomos, quando os humanos são essencialmente babás de sistemas de IA imperfeitos e ainda em aprendizado? É a empresa do carro com falhas? Ou a pessoa atrás do volante que deveria ter intervindo?

Na sexta-feira, obtivemos uma resposta: É a pessoa sentada atrás do volante. Em um tribunal do Arizona, a operadora de teste durante o acidente, Rafaela Vasquez, assunto de uma matéria detalhada da WIRED no ano passado, se declarou culpada de um crime de pôr em perigo e foi condenada a três anos de liberdade condicional supervisionada, sem tempo de prisão. No Arizona, pôr em perigo é definido como “colocar em perigo outra pessoa de forma imprudente, com risco substancial de morte iminente ou lesão física”.

No caso do Arizona, o acordo de delação salva todas as partes da incerteza de um julgamento: Se um júri tivesse considerado Vasquez culpada do crime original pelo qual ela foi acusada – homicídio culposo – ela teria enfrentado de quatro a oito anos de prisão estadual. Vasquez disse à WIRED que a prisão era uma preocupação particular para ela como mulher transgênero, dado que ela afirmou ter sofrido abuso sexual no início dos anos 2000 enquanto estava presa entre homens. Mas o acordo também deixa sem solução a alegação de Vasquez, feita em petições legais, de que ela não estava tão distraída como os promotores afirmaram. O caso a acusou de assistir ao show de talentos The Voice em seu celular pessoal no momento do acidente, mas ela afirma que estava monitorando o Slack da empresa no aparelho que usava para trabalhar.

Quanto à Uber, a delação salva a empresa de mais uma exposição embaraçosa das graves deficiências de seu antigo programa de carros autônomos, já destacadas em uma extensa investigação do Conselho Nacional de Segurança no Transporte. A equipe jurídica de Vasquez havia mostrado toda a intenção de defender-se transferindo a culpa para a Uber, argumentando que Vasquez havia sido colocada em uma situação de fracasso. (A Uber não respondeu imediatamente a um pedido de comentário na sexta-feira.)

Nas petições pré-julgamento, os advogados de Vasquez citaram as descobertas do Conselho Nacional de Segurança no Transporte em relação à Uber: O carro não conseguiu identificar Herzberg como pedestre e, portanto, não acionou os freios. O conselho também constatou que a Uber mantinha uma “cultura inadequada de segurança”, fazendo pouco para proteger os operadores de teste do conhecido fenômeno de “complacência de automação” – a tendência dos humanos de prestar menos atenção a processos automáticos que exigem pouca intervenção. Nos meses anteriores ao acidente, a Uber havia removido a exigência de haver dois pilotos de teste em cada carro, o que, segundo os operadores disseram à WIRED, os mantinha mais alertas e aderentes à política de não uso de celular da empresa. Em vez disso, nos meses que antecederam o acidente, os operadores solitários muitas vezes percorriam a mesma rota monótona em turnos de várias horas, deixados para autopoliciar o uso de celulares. A Uber proibia os operadores de usar os aparelhos enquanto dirigiam, mas também exigia que os mantivessem à mão no carro para receber mensagens do Slack da empresa. Vários outros operadores de teste haviam sido demitidos por violar a política de celulares antes do acidente de 2018.

A alegação de Vasquez de que ela estava monitorando o Slack em seu celular de trabalho veio à tona em petições legais muito depois de o Conselho Nacional de Segurança no Transporte publicar seu relatório, que apontou sua distração como a “causa provável” do acidente. Os advogados de Vasquez afirmam que ela estava apenas ouvindo The Voice – como os operadores eram autorizados a fazer – e argumentam que os investigadores confundiram em qual celular Vasquez estava olhando nos segundos que antecederam a fatalidade. Como o advogado de defesa Albert Morrison disse em tribunal na sexta-feira: “Ela não estava assistindo The Voice, meritíssimo. Ela estava fazendo o que lhe foi pedido pela Uber, que é monitorar os sistemas do carro. No entanto, juiz, ela admitiu que essa conduta em si era imprudente. Ela admitiu isso aqui hoje e está aceitando a responsabilidade por isso”.

Embora Vasquez e a Uber possam encontrar algum encerramento no acordo de delação, o especialista em carros autônomos Bryant Walker Smith diz que o Conselho Nacional de Segurança no Transporte deve revisar a questão do Slack para descobrir a verdade. “Eu não quero que a história da primeira fatalidade de um veículo automatizado seja uma mentira. Ou seja uma questão de disputas”, diz Walker Smith, professor de direito na Universidade do Sul da Califórnia. “Devemos obter respostas.” Assistir a um programa sugeriria alguma responsabilidade para Vasquez, diz ele; assistir ao Slack levanta questões sobre as políticas e práticas da Uber.

Os alegados problemas com o programa de carros autônomos da Uber eram graves o suficiente para que um ex-gerente de operações da divisão de caminhões autônomos, Robbie Miller, tivesse escrito um e-mail de denúncia para os superiores nos dias anteriores ao acidente fatal no Arizona, alertando sobre o histórico e as práticas de segurança ruins da divisão de carros. Após a publicação da matéria da WIRED sobre Vasquez no ano passado, Miller disse à WIRED que esperava que Vasquez levasse o caso a julgamento, e não fizesse um acordo. (Miller agora é diretor de segurança da empresa de transporte autônomo Pronto AI.)

“Espero que ela lute contra isso”, disse Miller na época. “Eu acho que ela tem alguma responsabilidade nisso, mas realmente não acho que o que estão fazendo com ela seja certo. Acho que ela foi colocada em uma situação muito ruim onde muitas outras pessoas nas mesmas circunstâncias teriam cometido o mesmo erro.”

De acordo com os documentos judiciais de Vasquez, outro ex-funcionário da Uber, um gerente de programa técnico na divisão de carros autônomos, chegou ao ponto de ligar para a polícia de Tempe após o acidente, dizendo que a empresa ignorou os riscos. Outros funcionários que conversaram com a WIRED também estavam desconfortáveis com o fato de Vasquez ser responsabilizada criminalmente. (Um ano após o acidente, os promotores do Arizona absolveram a Uber de responsabilidade criminal.)

O acordo de culpa de Vasquez se junta a uma resolução semelhante neste verão no sul da Califórnia, onde um motorista foi processado criminalmente por não tirar seu Tesla do Autopilot em um acidente em 2019 que resultou na morte de dois adultos – a primeira acusação desse tipo nos Estados Unidos. Kevin George Aziz Riad estava com a mão no volante, testemunhou um representante da Tesla, quando seu Tesla passou um sinal vermelho a 74 milhas por hora e bateu em um carro, matando duas pessoas dentro dele. Em junho, ele se declarou sem contestação de duas acusações de homicídio culposo com veículo automotor e foi condenado a dois anos de liberdade condicional, evitando a prisão.

O acordo de culpa de Vasquez chega em um verão repleto de preocupações com os perigos da IA. A Califórnia se tornou o palco de uma batalha sobre se os robo-táxis autônomos da Cruise e da Waymo podem cobrar por serviço em tempo integral para o público, com autoridades de São Francisco argumentando que a tecnologia ainda não está pronta ou segura. Mas, como os defensores dos carros autônomos sempre argumentaram, o status quo também não é exatamente seguro: a missão da indústria é eliminar os erros humanos na direção, que matam mais de 40.000 pessoas nos EUA a cada ano. Argumentavelmente, a culpa na fatalidade de Tempe também foi totalmente humana: uma combinação da imprudência humana que entrou no programa de teste falho da Uber e da falha de Vasquez em prestar atenção na estrada.

Além do tribunal, a Uber enfrentou uma reviravolta: o acidente marcou o início do fim da unidade de carros autônomos da empresa, que foi eventualmente fechada e vendida. Ainda assim, a Uber comprou uma participação na empresa que adquiriu sua divisão e anunciou que oferecerá carros da Waymo em sua plataforma de transporte no Arizona ainda este ano, garantindo que a empresa terá uma base no futuro dos carros autônomos sem desenvolver um carro próprio. (“Não tenho certeza de que essa seja uma história de remorso e consequências”, diz Walker Smith.) Herzberg se foi, e Vasquez enfrentou cinco anos de purgatório legal sozinha, com mais três anos de liberdade condicional pela frente. “Isso me perturba”, disse Miller, o denunciante, à WIRED sobre a acusação de Vasquez. “Parece fácil colocar a culpa nela.”