IA e Decisões Automatizadas: Direitos do Cidadão

Decisões automatizadas por sistemas de inteligência artificial afetam cada vez mais a vida dos cidadãos: aprovação de crédito, seleção para empregos, precificação de seguros, acesso a serviços públicos e até decisões judiciais auxiliadas por IA. O direito brasileiro oferece instrumentos de proteção que, embora não tenham sido concebidos especificamente para IA, são aplicáveis e relevantes.

O Artigo 20 da LGPD

A LGPD (art. 20) garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluindo decisões destinadas a definir seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.

Esse direito implica que: o titular deve ser informado sobre a existência de decisões automatizadas; pode solicitar revisão da decisão; e o controlador deve fornecer informações claras sobre os critérios e procedimentos utilizados.

Revisão Humana Significativa

O direito à revisão de decisões automatizadas só é efetivo quando a revisão é genuinamente humana — não uma mera homologação automática do resultado algorítmico. O revisor humano deve ter competência, autoridade e informação suficientes para efetivamente avaliar e, se necessário, reverter a decisão algorítmica.

Na prática, a implementação de revisão humana significativa enfrenta desafios: viés de automação (tendência humana de confiar no resultado do sistema); volume de decisões que impossibilita revisão individual; e assimetria informacional entre o sistema e o revisor humano.

Decisões Automatizadas no Setor Público

O uso de IA por órgãos públicos para decisões que afetam cidadãos levanta questões constitucionais adicionais. O princípio da motivação das decisões administrativas exige que as razões da decisão sejam apresentadas de forma compreensível. A impessoalidade exige tratamento igualitário. O due process impõe garantias de defesa.

A utilização de IA na administração pública não pode servir de escudo para decisões imotivadas ou discriminatórias. O cidadão mantém seus direitos constitucionais independentemente da ferramenta utilizada pelo Estado.

Scoring e Perfilamento

Sistemas de scoring — que atribuem notas a indivíduos com base em análise algorítmica — são uma das aplicações mais impactantes de decisões automatizadas. O scoring de crédito, regulado pela Lei do Cadastro Positivo (Lei nº 12.414/2011), deve observar critérios de transparência e correção. O cidadão tem direito de conhecer os fatores que influenciaram seu score e de contestar informações incorretas.

Setor de Saúde

Decisões automatizadas em saúde — diagnósticos assistidos por IA, triagem algorítmica, autorização de procedimentos — exigem cautela adicional dado o impacto direto na vida e integridade das pessoas. A supervisão médica humana permanece indispensável.

Construindo uma Cultura de Direitos

A efetividade dos direitos diante de decisões automatizadas depende não apenas de normas jurídicas, mas da conscientização dos cidadãos sobre seus direitos e da disposição das organizações em respeitar e operacionalizar mecanismos de contestação e revisão.