delimitação de responsabilidade em sistemas híbridos (combinando IA e supervisão humana). O caso levantou questões sobre a responsabilidade em acidentes com veículos autônomos, incluindo a responsabilidade dos operadores humanos e das empresas desenvolvedoras da tecnologia151. Questionou-se se a Uber, ao desativar as funções automáticas de segurança, havia transferido riscos inaceitáveis para o motorista humano e se o sistema de IA deveria ter sido submetido a padrões de validação mais rigorosos antes de operar em vias públicas. O Drone Militar e a Suposta Morte de Operador Humano (2023) O relato a seguir descreve uma história amplamente divulgada em 2023, segundo a qual um drone152 militar autônomo, em uma simulação ou exercício veículo operando em modo totalmente autônomo. Apesar de o sistema Autopilot oferecer recursos avançados de assistência à direção, ele ainda exige supervisão ativa do condutor, e a investigação apontou para uma falha tanto no reconhecimento do cenário pelo sistema quanto na reação do motorista. A diferença crucial entre os dois acidentes está no nível de automação e na responsabilidade atribuída: no caso da Tesla, o sistema era semiautônomo, dependendo da supervisão ativa do motorista; já no caso da Uber, o veículo estava em modo totalmente autônomo, sendo monitorado apenas por um operador, o que levantou questões sobre a capacidade dessas tecnologias de lidar com situações imprevistas sem intervenção humana direta. A notícia do acidente de 2016 está disponível em: https://g1.globo.com/carros/ noticia/2016/06/acidente-com-carro-da-tesla-em-modo-semiautonomo-deixa-1-morto. html?utm_source=chatgpt.com (Acesso em: maio 2024). 151 A discussão é relevante, pois, nos EUA, o número de ocorrências envolvendo veículos autônomos é bastante grande. Conforme a Administração Nacional de Segurança no Tráfego Rodoviário dos Estados Unidos (NHTSA), entre julho de 2021 e maio de 2022, foram registrados 392 acidentes envolvendo carros semiautônomos nos EUA, resultando em cinco mortes e seis feridos graves. Disponível em: https://g1.globo.com/inovacao/noticia/2022/06/15/ carros-semiautonomos-se-envolveram-em-392-acidentes-em-1-ano-nos-eua.ghtml?utm_ source=chatgpt.com. Acesso em: Agosto 2024. 152 O termo drone, derivado do inglês e originalmente significando “zangão”, é usado para designar veículos aéreos não tripulados (Unmanned Aerial Vehicles, UAVs) que, apesar de sua ausência de tripulação, são considerados aeronaves. Essa classificação se justifica porque os drones seguem os mesmos princípios aerodinâmicos que garantem a sustentação das aeronaves tripuladas. Os drones civis podem ser classificados conforme o grau de autonomia: alguns são pilotados remotamente por controle manual, enquanto outros são capazes de lidar com situações inesperadas, graças a regras pré-programadas que permitem a tomada de decisões, sendo considerados autônomos. Essa distinção, porém, torna-se menos evidente com o avanço das tecnologias automatizadas, como decolagem e pouso automáticos, estabilização de voo e retorno ao ponto de origem por
Alessandro Casoretti Lavorante
Prof. Me. pela USP
Advogado especializado em Direito Digital, IA e Startups. Mestre em Direito Civil pela USP. Autor do livro "Responsabilidade Civil por Inteligência Artificial".