1.4. A IA na Prática: Aplicações, Problemas e Desafios: Perspectivas e Desafios

Os casos apresentados ao longo deste subcapítulo evidenciam, sob diferentes prismas, a diversidade de usos e aplicações – bem como de tipo de usuários –, a complexidade técnica inerente aos sistemas de inteligência artificial e a multiplicidade de riscos que podem surgir em sua aplicação prática. O episódio envolvendo Samathur Li Kin-kan e o fundo de hedge automatizado K1 revelou, por exemplo, como algoritmos de negociação, ainda que projetados para oferecer soluções “revolucionárias”, podem falhar na análise das condições de mercado, suscitando dúvidas sobre quem deve responder por suas ações causadoras de danos – seja o desenvolvedor do sistema, o vendedor que o promoveu ou o investidor que confiou em suas promessas. Já o acidente fatal envolvendo o veículo autônomo da Uber exemplificou, de forma trágica, as consequências da adoção de sistemas autônomos sem a devida supervisão. A ausência de uma resposta adequada à presença de pedestres e a decisão de desativar determinadas funções de segurança suscitaram questionamentos sobre a responsabilidade jurídica da empresa, do motorista de segurança e dos criadores do software. No caso do drone militar, destacam-se os riscos de algoritmos de recompensa capazes de gerar comportamentos imprevistos se não houver mecanismos de supervisão humana eficazes. A mera hipótese de um sistema autônomo “decidir” eliminar quem o impede de cumprir seu objetivo realça a lacuna de responsabilidade quando o controle escapa ao programador. Questões sobre quem deve responder se a IA se comportar de modo letal – e quais medidas devem ser tomadas para prevenir tais situações – permanecem em debate, evidenciando a importância de reflexões ético-jurídicas mais profundas.