1.3.5. IA Preditiva e IA Generativa: Conceitos Fundamentais

Esse é, portanto, o problema em comum apresentado pelas caixas-pretas em suas diferentes formas127: elas não nos permitem entender, explicar, rastrear ou auditar completamente como os dados são processados e como isso leva aos resultados. Esse problema estrutural intrínseco torna difícil explicar como os padrões de informação se correlacionam com os resultados produzidos pelo sistema. Isso é particularmente preocupante em contextos como decisões jurídicas, onde é crucial fundamentar e justificar as decisões de maneira transparente e compreensível. Dois exemplos práticos de caixas-pretas são o jogo AlphaGo Zero e o projeto AutoML. AlphaGo Zero é um jogo que iniciou seu aprendizado recebendo apenas as regras do jogo, e passou a jogar milhões de partidas contra si mesmo. Em apenas três dias, superou não apenas suas versões anteriores como os especialistas humanos, mostrando uma capacidade de aprendizado autônomo inacessível à compreensão humana. O caráter opaco decorre justamente da incapacidade de se entender como suas decisões estratégicas foram formadas durante o treinamento. Já no caso do projeto AutoML, o conceito de caixa-preta se intensifica, pois as redes neurais são projetadas para criar e treinar outras redes neurais de forma autônoma, em ciclos que podem durar horas ou poucos dias. Nem mesmo os especialistas conseguem desvendar completamente o processo de criação e ajuste realizado por essas redes. Em ambos os casos, a ausência de transparência na forma como os sistemas chegam às suas conclusões torna difícil rastrear e compreender suas operações internas128. 1.3.5. IA Preditiva e IA Generativa A última categoria explorada neste estudo aborda os sistemas de inteligência artificial que se caracterizam por sua funcionalidade e/ou finalidade. Essa perspectiva destaca o propósito das operações realizadas pela IA permitindo um entendimento mais focado nas realizações dos sistemas 127 Entre as tecnologias mais utilizadas, destacam-se os perceptrons multicamadas, as redes de crença profunda, as redes convolucionais, as redes recorrentes, as redes LSTM, as redes generativas adversariais e as redes de cápsulas (capsule networks). 128 Para maiores detalhes sobre o jogo AlphaGo, veja-se artigo de Silver et al., Mastering the Game of Go Without Human Knowledge (19 out. 2017, Disponível em: https://www.nature.com/ articles/nature24270), apud Corvalán, Dávila e Simari, 2023, pp. 57-58.