Transparency challenges of AI implementation in public administration: a law enforcement case study

• Ano de defesa: 2024
• Autor(a) principal: Santos, Mayara Cristhina Rodriguero dos
• Orientador(a): Silva, Alexandre Pacheco
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: eng
• Palavras-chave em Português: Inteligência artificial; Administração pública; Transparência algorítimica; Sigilo industrial
• Palavras-chave em Inglês: Artificial intelligence; Public administration; Law enforcement; Algorithmic transparency; Transparency; Black box; Trade secrecy
• Link de acesso: https://hdl.handle.net/10438/36542

Esta dissertação examina os desafios de transparência levantados pelo uso da IA na administração pública, utilizando law enforcement como estudo de caso, a fim de responder à seguinte pergunta: “Como os desafios de transparência levantados pelo uso da IA na aplicação da lei podem lançar luz sobre as incertezas jurídicas colocadas pela implementação da IA em vários domínios da administração pública?”. A pesquisa revela uma tendência crescente de adoção de IA em law enforcement em níveis federal e estadual no Brasil, destacando os riscos de sistemas de IA imprecisos que levam a prisões falsas e discriminação. Baseando-se no trabalho de Lawrence Lessig, e Crootof e Ard, o estudo enfatiza os desafios colocados pela opacidade algorítmica, que impede a compreensão e o escrutínio de decisões automatizadas, prejudicando assim a confiança dos cidadãos na administração pública. Para abordar essas questões, esta dissertação propõe uma abordagem abrangente para promover a transparência como confiança, incluindo a transparência algorítmica, a superação do sigilo comercial em matéria criminal e o questionamento dos argumentos de sigilo de segurança pública. A pesquisa também analisa frameworks regulatórios internacionais, como o EU AI Act e a Lei da República Digital Francesa, para identificar melhores práticas e potenciais lacunas na regulação da IA no Brasil. Finalmente, a dissertação apresenta propostas concretas para aumentar a transparência, incluindo a expansão do papel das instituições existentes, a concessão de diferentes níveis de acesso à informação sobre IA para diferentes partes interessadas e a priorização de medidas de construção de confiança. Embora reconhecendo que a transparência por si só não pode mitigar todos os riscos associados ao uso da IA na administração pública, esta pesquisa pretende contribuir para a conversa em curso sobre a regulação e gestão de tecnologias de IA no setor público.