2.1. A Conduta Humana Ilícita ou Antijurídica: Aspectos Práticos

229 Esse tipo de falha pode ser identificado por dois critérios principais: a repetição de eventos danosos semelhantes, indicando um padrão anormal de comportamento, ou um único fato excepcionalmente grave que revele um desvio significativo em relação à vocação esperada do sistema. Em ambos os casos, a responsabilidade tende a recair sobre os criadores da IA, dado que se presume a falta de diligência no desenvolvimento ou na concepção dos algoritmos. Para ilustrar, Bonnet (2015, p. 41) menciona o exemplo de modelos de carros autônomos que, em diferentes versões, causam de forma regular acidentes de mesma natureza. Essa frequência anormal de danos apontaria para um problema estrutural nos algoritmos subjacentes, incompatível com as expectativas legítimas da sociedade. Assim como no caso de produtos defeituosos, a avaliação dessa “anormalidade estrutural” deve considerar, além de padrões técnicos, os contextos em que a IA opera, sobretudo em atividades intrinsecamente arriscadas, onde certos danos podem ser previstos desde o início. 230 A avaliação se daria em nível macroscópico, analisando o dispositivo estrutural em si, e não a versão específica envolvida em um caso isolado. Bonnet (2015, pp. 41-42) alerta, contudo, para as limitações desse critério, dado seu caráter vago e a ampla liberdade que oferece ao julgador. Ele também destaca que o cálculo de custo-benefício somente funciona a posteriori, quando os danos já se acumularam, limitando sua aplicabilidade em cenários preventivos.