Sociedade algorítmica e o poder judiciário: medidas concretas para a efetivação de transparência e explicabilidade nas decisões judiciais elaboradas por inteligência artificial - Dal Paz, Lucas (2024)
Essa Dissertação de Mestrado Profissional investiga o impacto das tecnologias da Inteligência Artificial (IA) e dos algoritmos na sociedade contemporânea, enfatizando sua funcionalidade e potencial disruptivo no Poder Judiciário. O objetivo da pesquisa é analisar como essas tecnologias moldam os comportamentos e escolhas de usuários e operadores do direito, considerando programações que podem ser previamente enviesadas. Por conseguinte, a pesquisa destaca como essas ferramentas possuem o potencial de aumentar a eficiência para o trabalho jurídico forense, especialmente para a elaboração de decisões judiciais e automatização de impulsos cartorários. Assim, os objetivos deste estudo, pormenorizadamente, incluem: examinar a transformação do Poder Judiciário, avaliar o impacto dessa transformação na prática jurídica, na ciência do Direito e no mercado de trabalho dos profissionais do Direito; e discutir a importância de diretrizes para decisões algorítmicas que valorizem a transparência, a explicabilidade e auditabilidade, como forma de respeitar o Princípio da Decisão Fundamentada. A metodologia escolhida para o desenvolvimento da pesquisa se dá por meio de revisão bibliográfica, legislativa e documental, abordando regulamentações como a Lei Geral de Proteção de Dados (LGPD) no Brasil, o Regulamento Geral sobre a Proteção de Dados (GDPR) na União Europeia e a Lei de Inteligência Artificial em discussão no Brasil (Projeto de Lei 2338/2023). Nesse contexto, o estudo também incluiu a abordagem empírica, discutindo exemplos práticos como o sistema de recrutamento da Amazon e o software COMPAS, demonstrando os desafios e a necessidade de mecanismos robustos para auditoria e controle, a fim de assegurar a justiça e evitar discriminações. Por fim, mas não por último, a problemática desta pesquisa dar-se-á no sentido questionar quais são os indicadores para os parâmetros necessários no sentido de alcançar a transparência, a não discriminação e explicabilidade nas decisões algorítmicas. Portanto, a pesquisa recomenda a criação de regulamentações específicas para alinhar o uso dessas tecnologias aos objetivos do Estado Democrático de Direito, garantindo que a automação e a eficiência tecnológica não comprometam os princípios de justiça e equidade.