2.3.1. As Concausas e a Multiplicidade de Agentes: Aspectos Práticos

neurais profundas277. Cada equipe altera parâmetros e regras de filtragem no código-fonte do IDS de forma independente e sem coordenação, resultando em configurações conflitantes. Assim que o sistema é implantado, gera tanto falsos positivos (bloqueando usuários legítimos) quanto falsos negativos (permitindo acesso a invasores). Esses erros causam prejuízos graves em setores cruciais da empresa. Nesse caso, duas ou mais pessoas (as equipes) atuam em um mesmo fato gerador de dano (a configuração incorreta do IDS). A causalidade plural concorrente (‘2’), por seu turno, se divide entre concurso entre o fato do responsável e o caso fortuito ou a força maior, concorrência entre fatos do responsável e do lesado278, e concurso de fatos distintos de várias pessoas. O primeiro destes – concurso entre o fato do responsável e o caso fortuito ou a força maior (‘2.1’) – trata dos casos em que condutas já predispostas a causar um dano, se relacionam com fatores externos que lhes potencializam os resultados (podendo ou não romper o nexo causal)279. Para ilustrar, consideremos um sistema de IA de controle de tráfego aéreo que apresenta falhas de programação em seu algoritmo de aprendizado por reforço, ocasionando leituras incorretas dos parâmetros de voo. Ao mesmo tempo, ocorre um fenômeno meteorológico extremo (furacão ou tempestade geomagnética) totalmente imprevisível e fora do padrão, que afeta radicalmente a estabilidade dos aviões. A conjunção do erro técnico (fato do responsável) com o fenômeno inevitável (força maior) leva a pousos de emergência mal executados e a danos a várias aeronaves. No que Noronha apresentava como concurso entre os fatos do responsável pelo dano e da pessoa lesada (‘2.2’), temos os próprios desenvolvimentos surgidos do art. 945 do Código Civil: “Se a vítima tiver concorrido culposamente para o evento danoso, a sua indenização será fixada tendo-se em conta a gravidade de sua culpa em confronto com a do autor do dano”. Toma-se como exemplo um aplicativo médico movido a redes neurais profundas para diagnóstico de doenças raras. O desenvolvedor negligencia a validação contínua do modelo, deixando de realizar a atualização de 277 As deep neural networks, que como vimos no Capítulo 1, são modelos capazes de aprender padrões complexos em grandes quantidades de dados. 278 Noronha, 2010, pp. 642-643. 279 Ibidem, p. 643.