comentários sexualmente inapropriados e tentado tocar um estudante durante uma suposta viagem ao Alasca. Ademais, para conferir credibilidade à narrativa, o sistema atribuiu falsamente a Turley a autoria de um artigo publicado pelo Washington Post em 2018, o qual, de fato, não existe158. Ressalta-se que o professor nunca esteve envolvido em qualquer processo relacionado a assédio sexual. Turley manifestou-se publicamente sobre o ocorrido em suas redes sociais, afirmando: “Foi uma surpresa para mim, já que nunca fui ao Alasca com estudantes, o Post nunca publicou tal artigo e nunca fui acusado de assédio ou agressão sexual por ninguém”. Inicialmente, ele classificou a acusação como “cômica”, mas posteriormente reconheceu a gravidade e o potencial prejudicial do episódio. Em entrevista ao Washington Post, destacou que situações como essa podem ser “incrivelmente prejudiciais”, especialmente para juristas ou figuras públicas, dada a repercussão que alegações infundadas podem gerar159. Os erros técnicos decorrentes da “alucinação” gerada pela IA podem ser atribuídos a específicos elementos relacionados à sua arquitetura e funcionamento. Em primeiro lugar, temos a utilização de redes neurais profundas com uma estrutura do tipo transformers, que emprega mecanismos de atenção para identificar padrões e relações complexas em grandes volumes de texto. Embora essa tecnologia seja altamente eficaz na geração de linguagem natural, ela se baseia em padrões estatísticos provenientes dos dados de treinamento. Essa dependência pode levar a inferências equivocadas, especialmente quando os dados utilizados contêm vieses ou informações imprecisas. Um segundo ponto de erro pode estar no processo de geração probabilística de linguagem, que contribui significativamente para a ocorrência de erros. O modelo não cria informações com base em verificação factual, mas calcula, a partir do contexto, a sequência de palavras mais provável a ser gerada. Essa abordagem, embora eficiente para pro158 Disponível em: https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/ Acesso em: mar. 2024. Veja-se a polêmica criada entre professores universitários estadunidenses em: https:// www.conjur.com.br/2023-abr-17/especialistas-discutem-possivel-processar-chatgpt-difamacao/ Também disponível em: https://canaltech.com.br/inteligencia-artificial/chatgpt-inventaacusacao-de-assedio-sexual-contra-professor-246096/ Acesso em: mar. 2024. 159 Na época do acontecimento, foi criado um movimento de empresários, especialistas em IA e estudiosos pedindo uma pausa de seis meses no desenvolvimento de IAs generativas amplas para que pudessem ser produzidos mecanismos de segurança.
Alessandro Casoretti Lavorante
Prof. Me. pela USP
Advogado especializado em Direito Digital, IA e Startups. Mestre em Direito Civil pela USP. Autor do livro "Responsabilidade Civil por Inteligência Artificial".