1.3.4. Caixas-Brancas e Caixas-Pretas: Aspectos Práticos

aplicadas em áreas onde a explicabilidade é tão importante quanto a precisão, como nas decisões médicas ou jurídicas, pois operam com códigos rastreáveis e auditáveis.123 Dentro da categoria da IA fraca – verificada no início deste subcapítulo –, as caixas-brancas utilizam técnicas para realizar predições, automações, classificações e detecções inteligentes, permitindo que os resultados sejam explicáveis e interpretáveis. Essa característica é especialmente vantajosa no campo jurídico, pois otimiza as tarefas judiciais, garantindo transparência no tratamento dos dados124. As caixas-pretas, por sua vez, referem-se a sistemas de IA cujo funcionamento interno é opaco ou difícil de interpretar. Modelos cuja lógica interna não é compreensível (como ocorre, por exemplo, com algumas redes neurais ligadas ao aprendizado profundo). Esses sistemas ainda tomam decisões baseadas em raciocínio, mas o processo é obscuro para os humanos125. A noção de caixa-preta é fundamental para termos a real dimensão do funcionamento de muitos sistemas que fazem uso de inteligência artificial. Embora sua complexidade permita que as redes façam previsões altamente precisas, ela também torna desafiador entender exatamente como essas previsões são geradas, ou como a máquina chegou a uma dada conclusão. Contrariamente aos sistemas que operam com algoritmos transparentes – nos quais é possível identificar de quem foi o erro –, na presença de um sofisticado sistema que opera com caixa-preta, não é possível saber como o sistema chegou àquela conclusão126. humanas. Da mesma forma, no contexto da IA, o termo “raciocínio” é frequentemente empregado como uma metáfora para descrever a capacidade das máquinas de processar informações, reconhecer padrões e tomar decisões com base em modelos de dados. Assim, não haveria necessidade de se colocar entre aspas tais termos. 123 Alguns exemplos de uso das caixas-brancas podem ser encontrados nos sistemas interpretáveis baseados em lógica simbólica, nas árvores de decisão ou em modelos lineares simples. 124 Corvalán, Dávila e Simari, 2023, p. 60. 125 Alguns exemplos de utilização das caixas-pretas encontram-se nas análises de comportamento e predição em redes sociais, na classificação de imagens para reconhecimento de rostos, nas análises de riscos financeiros, entre outros. Trata-se de modelos com resultados bastante precisos, mas que não fornecem explicações claras sobre como chegaram às conclusões. 126 Para Corvalán, Dávila e Simari (2023, p. 33), “a IA moderna é basicamente uma caixa-preta, alcançando um desempenho superior ao humano sem que as pessoas entendam totalmente como esse resultado é obtido”.