2.3.3. As Teorias da Causalidade: Impactos e Consequências

A teoria do escopo da norma nos permite fazer alguns cotejos práticos com as principais proposições normativas referentes à própria inteligência artificial. Pegue-se o exemplo de uma startup que desenvolve um sistema de IA para triagem e aconselhamento médico, comercializado a clínicas e plataformas de telemedicina. Essa solução, que utiliza algoritmos de aprendizado de máquina para analisar dados de pacientes (incluindo histórico de sintomas e sinais vitais), fornece orientações iniciais, indicando, por exemplo, a necessidade de consultas presenciais ou exames complementares. Por lidar com dados sensíveis e saúde, o sistema poderia ser enquadrado como “risco elevado” pelo Art. 6º do AI Act370 e como “alto risco” pelo arts. 17 e 18 da redação atual do PL 2338/23 no Brasil371, além de se submeter às regras do CDC e do Código Civil. Num cenário bastante verossímil, pode-se supor que alguma clínica de telemedicina, confiando excessivamente nas análises preditivas do sisna sequência causal, a teoria da finalidade da norma enfatiza que o evento danoso deve ser diretamente vinculado ao risco que a lei desejava prevenir. 370 Regulamento UE 2024/1689. Preâmbulo. (...) 46. Os sistemas de IA de risco elevado só deverão ser colocados no mercado da União, colocados em serviço ou utilizados se cumprirem determinados requisitos obrigatórios. (...) Secção 1. Classificação de sistemas de IA como sendo de risco elevado. Artigo 6ª – Regras para a classificação de sistemas de IA de risco elevado. (...) 3. Em derrogação do n.o 2, um sistema de IA a que se refere o Anexo III não pode ser considerado de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, nomeadamente se não influenciarem de forma significativa o resultado da tomada de decisões.