tre de 49 anos que atravessava a rua com sua bicicleta, em Tempe, Arizona, EUA. O acidente ocorreu à noite, em um trecho mal iluminado, enquanto Herzberg atravessava fora da faixa de pedestres. Relatórios posteriores mostraram que havia um motorista de segurança no carro; porém, no momento do acidente, estava assistindo a vídeos em seu celular, e não percebeu a pedestre até ser tarde demais. Como resultado, o veículo colidiu a aproximadamente 64 km/h, sem nenhuma tentativa de frenagem ou desvio146. O veículo em questão, um SUV Volvo XC90, estava operando no modo de condução autônoma como parte do programa experimental de veículos autônomos da Uber. O sistema utilizava uma combinação de sensores, radares, câmeras e LIDAR (Light Detection and Ranging)147 para mapear o ambiente e tomar decisões em tempo real. Contudo, investigações subsequentes revelaram falhas críticas no funcionamento do sistema de IA. O software detectou Herzberg atravessando a via com uma bicicleta, mas classificou-a erroneamente como um “objeto transitório”. Isso impediu que o veículo acionasse os sistemas automáticos de frenagem ou transmitisse um alerta para a motorista de segurança, Rafaela Vasquez, que se encontrava dentro do carro. Além disso, verificou-se que os sistemas automáticos de frenagem haviam sido intencionalmente desativados pela Uber para evitar comportamento brusco do veículo durante os testes, transferindo a responsabilidade de intervenção para o motorista humano148. Em relação aos prováveis erros técnicos dos sistemas de IA envolvidos no acidente, podem ser levantadas algumas hipóteses. Em primeiro lugar, o opcional de velocidade e auxílio para se manter dentro da faixa, entre outras coisas. Contudo, nestes últimos, o motorista ainda é essencial e precisa assumir o controle quando necessário. 146 Disponível em: https://www.bbc.com/news/technology-54175359?. Acesso em: jul. 2024. Também disponível em: https://epocanegocios.globo.com/Tecnologia/noticia/2018/05/porque-o-carro-autonomo-do-uber-matou-um-pedestre.html (Acesso em: 29 jul. 2024). 147 LIDAR é uma tecnologia de sensoriamento remoto que utiliza pulsos de luz laser para medir distâncias com alta precisão. 148 O caso deu origem a uma série de investigações e ações judiciais, tanto contra a Uber quanto contra Rafaela Vasquez. O processo judicial foi conduzido no Tribunal Superior do Condado de Maricopa, Arizona. A operadora do veículo foi formalmente acusada de homicídio culposo em setembro de 2020, com base na alegação de negligência ao não supervisionar adequadamente o sistema autônomo. Por outro lado, a Uber conseguiu evitar acusações criminais diretas, mas enfrentou responsabilidade civil e reputacional. No caso da Uber, a responsabilidade recaiu diretamente sobre uma empresa que desenvolvia a tecnologia de direção autônoma.
Alessandro Casoretti Lavorante
Prof. Me. pela USP
Advogado especializado em Direito Digital, IA e Startups. Mestre em Direito Civil pela USP. Autor do livro "Responsabilidade Civil por Inteligência Artificial".