2.1. A Conduta Humana Ilícita ou Antijurídica: Análise Aprofundada

ria como uma variação do critério anterior, analisando se a IA ultrapassou as funções que a sociedade poderia razoavelmente aguardar – o que, em última análise, diz respeito à falha humana em antecipar ou corrigir riscos228. Já ao discutir a avaliação da “IA enquanto estrutura” (IA structurelle), Bonnet sugere que, além de considerar atos individuais da IA em sua operação, deve-se analisar o próprio conjunto de instruções abstratas que a regem, que pode ser intrinsecamente defeituoso229. Por fim, o critério de “cálculo de custo-benefício” (l’IA condamnée au terme d’um calcul bénéfice/risque), inspirado no direito americano, coteja os benefícios sociais da IA com os danos causados, podendo levar à proibição de uso quando os prejuízos superarem claramente as vantagens oferecidas230. Embora esses critérios aparentemente focalizem a máquina, o comportamento humano ressurge como peça-chave. O uso negligente ou temerário de um software complexo enquadra-se em um regime de responsabilidade análoga às atividades perigosas, impondo dever de reparação objetiva a quem opera 228 No caso da IA, a expectativa legítima não recai sobre o dispositivo em si, mas sobre seus “atos”. Ela pode ter um sentido positivo, quando a IA não atinge o nível de segurança ou eficiência esperado, ou negativo, quando o dispositivo ultrapassa suas funções esperadas e produz resultados inesperados. Um exemplo que ensejaria responsabilização seria uma IA “jornalista” que emitisse comentários ofensivos ou divulgasse dados confidenciais de maneira inadvertida. Em contrapartida, a IA não causaria responsabilização se reportasse informações precisas, ainda que prejudiciais. Bonnet argumenta que esse critério permite, com razoável clareza, estabelecer os limites entre a funcionalidade esperada da IA e os danos que ultrapassam a expectativa social. Bonnet, 2015, pp. 40-41.