Sociedade algorítmica e o poder judiciário: medidas concretas para a efetivação de transparência e explicabilidade nas decisões judiciais elaboradas por inteligência artificial

• Ano de defesa: 2024
• Autor(a) principal: Dal Paz, Lucas
• Orientador(a): Colombo, Cristiano
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: por
• Instituição de defesa: Universidade do Vale do Rio dos Sinos
• Programa de Pós-Graduação: Programa de Pós-Graduação em Direito da Empresa e dos Negócios
• Departamento: Escola de Direito
• País: Brasil
• Palavras-chave em Português: Inteligência artificial; Algoritmo; Dados; Discriminação; Transparência; Artificial intelligence
• Palavras-chave em Inglês: Algorithm; Data; Discrimination; Transparency
• Área do conhecimento CNPq: ACCNPQ::Ciências Sociais Aplicadas::Direito
• Link de acesso: http://repositorio.jesuita.org.br/handle/UNISINOS/13405

Essa Dissertação de Mestrado Profissional investiga o impacto das tecnologias da Inteligência Artificial (IA) e dos algoritmos na sociedade contemporânea, enfatizando sua funcionalidade e potencial disruptivo no Poder Judiciário. O objetivo da pesquisa é analisar como essas tecnologias moldam os comportamentos e escolhas de usuários e operadores do direito, considerando programações que podem ser previamente enviesadas. Por conseguinte, a pesquisa destaca como essas ferramentas possuem o potencial de aumentar a eficiência para o trabalho jurídico forense, especialmente para a elaboração de decisões judiciais e automatização de impulsos cartorários. Assim, os objetivos deste estudo, pormenorizadamente, incluem: examinar a transformação do Poder Judiciário, avaliar o impacto dessa transformação na prática jurídica, na ciência do Direito e no mercado de trabalho dos profissionais do Direito; e discutir a importância de diretrizes para decisões algorítmicas que valorizem a transparência, a explicabilidade e auditabilidade, como forma de respeitar o Princípio da Decisão Fundamentada. A metodologia escolhida para o desenvolvimento da pesquisa se dá por meio de revisão bibliográfica, legislativa e documental, abordando regulamentações como a Lei Geral de Proteção de Dados (LGPD) no Brasil, o Regulamento Geral sobre a Proteção de Dados (GDPR) na União Europeia e a Lei de Inteligência Artificial em discussão no Brasil (Projeto de Lei 2338/2023). Nesse contexto, o estudo também incluiu a abordagem empírica, discutindo exemplos práticos como o sistema de recrutamento da Amazon e o software COMPAS, demonstrando os desafios e a necessidade de mecanismos robustos para auditoria e controle, a fim de assegurar a justiça e evitar discriminações. Por fim, mas não por último, a problemática desta pesquisa dar-se-á no sentido questionar quais são os indicadores para os parâmetros necessários no sentido de alcançar a transparência, a não discriminação e explicabilidade nas decisões algorítmicas. Portanto, a pesquisa recomenda a criação de regulamentações específicas para alinhar o uso dessas tecnologias aos objetivos do Estado Democrático de Direito, garantindo que a automação e a eficiência tecnológica não comprometam os princípios de justiça e equidade.