3.2.5. O Risco do Empreendimento e o Risco do Desenvolvimento: Aplicações e Implicações

mercado. Para alguns autores, cada update promovido pelo fornecedor enseja uma “nova colocação em circulação”556. O design de sistemas de inteligência artificial é uma fase crucial que impacta diretamente na segurança e eficiência desses sistemas. A criação de um design seguro desde o início é uma obrigação do fabricante, devendo-se considerar tanto a privacidade quanto os riscos associados ao uso do produto. Suzana Navas Navarro faz uma ressalva importante aqui: é fundamental não confundir “produto defeituosamente projetado” com “produto intrinsecamente perigoso557. Similarmente, quando se abordam os riscos associados à criação e desenvolvimento de produtos sofisticados e/ou perigosos pela indústria (sistemas de e com IA, sem dúvidas, podendo permear esses dois grupos), costuma-se apontar como fundamental a distinção entre risco inerente e risco adquirido para a análise da responsabilidade civil. Segundo Sergio Cavalieri Filho, o risco inerente refere-se à periculosidade latente de certos produtos – como armas de fogo, medicamentos com contraindicações e agrotóxicos –, cuja periculosidade é normal, previsível e intrínseca à sua natureza558. Já o risco adquirido caracteriza-se pela imprevisibilidade e anormalidade, surgindo de produtos que se tornam perigosos em razão de defeitos. Tais produtos excedem os padrões de segurança legitimamente esperados pelos consumidores, ensejando a responsabilidade objetiva do fornecedor559. Por sua vez, a fase de fabricação de em sistemas de IA que utilizam machine learning, abrange operações como extração, transformação, carga e integração de dados, etiquetagem, limpeza, anonimização de dados pessoais, treinamento, teste e validação do sistema560. Essas tarefas são frequentemente externalizadas e costumam ocorrer, segundo Marina Cas556 Barbosa, 2021. 557 Navarro, Suzana Navas. Daños Ocasionados por Sistemas de Inteligencia Artificial: Especial Atención a su Futura Regulación. Granada: Ed. Comares, pp. 88-89. 558 Não obstante, o fornecedor tem o dever de informar adequadamente sobre tais riscos, sob pena de configurar defeito de comercialização. Cavalieri Filho, 2023, p. 256. 559 Idem. 560 Navarro, 2022, p. 90.