Participação social como critério de validação das ferramentas de inteligência artificial na administração pública

• Ano de defesa: 2025
• Autor(a) principal: Carvalho, Lílian Linhares de
• Orientador(a): Buchbinder, Felipe
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: por
• Palavras-chave em Português: Inteligência artificial; Participação social; Ética da IA
• Palavras-chave em Inglês: Artificial intelligence; Social participation; AI ethics
• Link de acesso: https://hdl.handle.net/10438/36861

Objetivo: Esta dissertação buscou estudar as discussões atuais sobre a participação social em relação à adoção de tecnologias de IA nas práticas institucionais públicas, adotando-a como critério de validação de novas ferramentas tecnológicas em um contexto global de rápida evolução. Metodologia: Para atingir este objetivo, foi realizada uma revisão integrativa da literatura, utilizando artigos científicos publicados entre novembro de 2018 e dezembro de 2024. A seleção dos estudos seguiu as diretrizes do PRISMA aliado a ferramenta de busca da plataforma Litmaps, tendo como artigo semente o trabalho de Jobin et al. (2019), complementada pelos descritores: "inteligência artificial", "ética em IA" e "participação social". Os artigos selecionados foram analisados quantitativamente, por meio de ferramentas de contagem de palavras e construção de nuvens de palavras, e qualitativamente, com base na Teoria da Ação Comunicativa de Jürgen Habermas. Resultados: Os resultados indicam um reconhecimento da participação social como um pilar para a validação ética da IA na administração pública. A análise demonstra que a literatura enfatiza a necessidade de mitigar riscos como os de viés algorítmico, falta de transparência e perpetuação de desigualdades, por meio da inclusão de diversas vozes e da consideração de valores sociais, apesar de não apresentarem medidas práticas para o alcance destas obrigações e se concentrarem em iniciativas do norte global. Limitações: A pesquisa identifica uma lacuna significativa na predominância de diretrizes éticas originadas no Norte Global, em detrimento das perspectivas do Sul Global, como o Brasil. Esse desequilíbrio pode resultar em diretrizes que não consideram adequadamente as desigualdades digitais e socioculturais locais, tornando necessária uma abordagem mais sensível ao contexto brasileiro. Do ponto de vista metodológico, os resultados desta dissertação podem representar critérios de inclusão e exclusão restritivos, que culminaram com artigos menos plurais e que podem ser sanados em estudos posteriores. Aplicabilidade no trabalho: A dissertação destaca a importância da participação social como um mecanismo democrático de controle na implementação de inteligência artificial. No contexto prático, isso significa que políticas públicas e sistemas de IA devem ser acompanhados de estratégias que garantam transparência, capacitação da população e um engajamento efetivo da sociedade civil para evitar vieses e promover maior inclusão. Contribuições para a sociedade: O estudo sugere que a IA pode ser uma ferramenta de inclusão e justiça social, desde que acompanhada de mecanismos adequados de participação popular. Ao propor que a governança da IA leve em consideração a diversidade sociocultural do Brasil, a pesquisa reforça a necessidade de uma abordagem ética que proteja os mais vulneráveis e reduza desigualdades. Originalidade: A originalidade desta dissertação reside na construção das métricas metodológicas com suporte de ferramentas de IA, e na abordagem contemporânea da ética no desenvolvimento e implementação de tecnologias para o uso comum combinada com a teoria da ação comunicativa de Habermas para sustentar um modelo de IA que enfatiza o diálogo racional e democrático.