(...) Não obstante o primeiro parágrafo, os sistemas de IA a que se refere o anexo III devem ser sempre considerados de risco elevado nos casos em que executarem a definição de perfis de pessoas singulares. 371 Capítulo III - Da Categorização dos Riscos. (...) Seção III - Alto Risco. Art. 17. São considerados sistemas de inteligência artificial de alto risco aqueles utilizados para as seguintes finalidades: (...) IX – aplicações na área da saúde, inclusive as destinadas a auxiliar diagnósticos e procedimentos médicos; (...) Art. 18. Caberá à autoridade competente atualizar a lista dos sistemas de inteligência artificial de risco excessivo ou de alto risco, identificando novas hipóteses, com base em, pelo menos, um dos seguintes critérios: (...) II – o sistema puder impactar negativamente o exercício de direitos e liberdades ou a utilização de um serviço; III – o sistema tiver alto potencial danoso de ordem material ou moral, bem como discriminatório; (...) V – serem os possíveis resultados prejudiciais do sistema de inteligência artificial irreversíveis ou de difícil reversão.
Alessandro Casoretti Lavorante
Prof. Me. pela USP
Advogado especializado em Direito Digital, IA e Startups. Mestre em Direito Civil pela USP. Autor do livro "Responsabilidade Civil por Inteligência Artificial".