Viés de gênero e raça na geração automática de imagens por IA: uma perspectiva estatística

• Ano de defesa: 2025
• Autor(a) principal: Sato, Fábio Martiniano
• Orientador(a): Oliveira, Rogério de
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: por; eng
• Instituição de defesa: Universidade Presbiteriana Mackenzie
• País: Brasil
• Palavras-chave em Português: inteligência artificial generativa; geração automática de imagens; viés demográfico; viés de gênero; viés racial; método de Monte Carlo; grandes modelos de linguagem
• Link de acesso: https://dspace.mackenzie.br/handle/10899/42012

A inteligência artificial generativa tem se consolidado como uma ferramenta ampla mente utilizada na criação automática de imagens, mas evidências empíricas indicam que esses sistemas frequentemente reproduzem vieses demográficos relacionados a gênero e raça. Apesar da crescente literatura sobre o tema, ainda são limitadas as abordagens que combinam detecção de vieses com rigor estatístico e estratégias práticas de mitigação. Neste trabalho, propomos um método estatisticamente fundamentado para avaliar a confiabilidade da detecção de vieses demográficos em imagens geradas por IA, bem como quantificar como esses vieses se manifestam em diferentes contextos. O método integra testes formais de hipótese, intervalos de confiança — incluindo a abordagem BCa — e simulações de Monte Carlo e bootstrap, permitindo não apenas a identificação de desequilíbrios de gênero e raça, mas também sua mitigação por meio do ajuste iterativo de prompts textuais. Para validação empírica, aplicamos o método a coleções de imagens geradas a par tir de diferentes prompts em quatro plataformas comerciais amplamente utilizadas — Adobe Firefly, Microsoft Copilot Designer, Google ImageFX e Meta Imagine. Adicional mente, realizamos uma análise temporal específica para o prompt “Generate a Brazilian”, comparando imagens geradas em dois períodos distintos. Os resultados revelam padrões consistentes de desequilíbrio de gênero e raça entre as plataformas, bem como variações relevantes ao longo do tempo nesse prompt específico, evidenciando tanto persistências quanto mudanças nos padrões de representação demográfica. Os achados indicam a capacidade do método de detectar vieses de forma estatistica mente confiável e demonstram o potencial do ajuste automatizado de prompts como uma estratégia prática para reduzir sub-representações demográficas, oferecendo uma contribu ição relevante tanto para a literatura acadêmica quanto para aplicações reais em contextos como marketing, mídia, educação e recursos humanos.