1.4. A IA na Prática: Aplicações, Problemas e Desafios: Tendências Regulatórias

tados Unidos e Espanha. Geo-blocking envolve o bloqueio ou restrição de ofertas com base na origem geográfica do consumidor. A investigação revelou que certas ofertas eram indisponíveis para usuários brasileiros, enquanto estavam acessíveis para consumidores de outras nacionalidades164. O sistema utilizado pelo site Decolar.com emprega algoritmos de precificação dinâmica baseados em técnicas de machine learning e perfilização para ajustar preços a partir de variáveis como dados geográficos e comportamentais, entre outros. Um dos principais problemas da perfilização (profiling) está no uso de dados de treinamento enviesados165. Vimos, no ponto 1.3.1, que os dados são os alimentos que nutrem a decisão dos algoritmos. Quando os dados refletem desigualdades ou padrões históricos de discriminação – como a associação entre regiões geográficas e capacidade econômica –, o algoritmo pode reproduzir ou amplificar esses vieses. Por exemplo, consumidores de determinadas áreas, que constam na base de dados como “dispostos a pagar mais por serviços”, podem ser sistematicamente cobrados a preços mais altos. Sob tal aspecto, o mecanismo de segmentação geográfica embutido no algoritmo torna-se um fator técnico relevante, pois a perfilização analisa grandes volumes de dados para criar perfis detalhados com base na localização, comportamento de navegação e histórico de compras daquela localização. Embora esses sistemas sejam muitas vezes tidos como mais eficientes, eles podem facilmente reproduzir preconceitos históricos presentes nos dados utilizados para treinamento166. Além disso, o uso de modelos de precificação dinâmica pode ter agravado a situação. Esses modelos ajustam preços em tempo real com base em 164 Essas práticas foram consideradas abusivas e discriminatórias pelo Departamento de Proteção e Defesa do Consumidor (DPDC) do Ministério da Justiça, resultando em uma multa de R$ 7,5 milhões à Decolar.com. Além disso, o Ministério Público do Rio de Janeiro (MP/RJ) ajuizou uma ação civil pública contra a empresa, acusando-a de manipular preços para discriminar consumidores brasileiros. Disponível em: https://www.migalhas.com.br/quentes/273955/ mp-rj-acusa-decolar-com-de-manipular-precos-para-discriminar-brasileiros?utm_ source=chatgpt.com. Acesso em: outubro 2024. 165 Cf. Medon, Filipe. Inteligência artificial e Responsabilidade Civil: Autonomia, Riscos e Solidariedade. São Paulo: Juspodivm. 2022, p. 283; Frazão, Ana. Algoritmos e Inteligência artificial: Repercussões da sua Utilização sobre a Responsabilidade Civil e Punitiva das Empresas. Artigo de 15 maio 2018 para o Jota. 166 Para ampla discussão acerca de erros de vieses nos dados de treinamento, em casos semelhantes, que podem amplificar discriminações existentes, veja-se Corvalán, Dávila e Simari, 2023, pp. 52ss.