1.4. A IA na Prática: Aplicações, Problemas e Desafios: Aplicações e Implicações

O episódio de “alucinação” do ChatGPT, em que o sistema mencionou falsamente um professor como suposto autor de assédio sexual, escancarou como os mecanismos de geração de texto baseados em redes neurais profundas podem disseminar informações inverídicas e, potencialmente, difamatórias. Surge, novamente, a interrogação: a responsabilidade deve ser atribuída à empresa que desenvolve o modelo ou a autonomia do próprio sistema isenta seus programadores? No setor de serviços de viagem, o caso da Decolar. com, relacionado à discriminação de preços (geo-pricing e geo-blocking), expõe como algoritmos de perfilização podem reproduzir ou amplificar vieses históricos e provocar segregação econômica de forma automatizada. Pergunta-se, então, quem deve responder pelos danos sofridos pelos consumidores, considerando que tais práticas podem decorrer tanto de um uso inadequado de dados quanto de falhas nos critérios algorítmicos de precificação. Por fim, o litígio envolvendo a GitHub, a Microsoft e a OpenAI apresenta a controvérsia sobre violações de propriedade intelectual, mostrando que a simples utilização de códigos em bases públicas para treinar um modelo de IA pode colidir frontalmente com licenças de software livre. O debate permeia desde o uso maciço de dados até a reprodução literal de trechos de código, gerando incertezas sobre a efetividade das licenças e a atribuição de direitos autorais. Esses exemplos colocam em evidência o dever de se discutir os riscos de lacuna de responsabilidade e a dificuldade de se estabelecer, na prática, um arcabouço seguro que englobe as mais distintas situações e atribua responsabilidades de forma clara. Quando se soma a autonomia (cada vez maior) desses sistemas à complexidade técnica (deep learning, algoritmos de reforço, caixas-pretas), o questionamento central – “quem deve responder por suas ações causadoras de danos?” – torna-se ainda mais urgente.