O Funcionamento Diferencial dos Itens na Indução de Classificadores Mais Justos

• Ano de defesa: 2024
• Autor(a) principal: Minatel, Diego
• Tipo de documento: Tese
• Tipo de acesso: Acesso aberto
• Idioma: por
• Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
• Palavras-chave em Português: Análise de justiça; Aprendizado supervisionado; Bias; DIF; Fairness analysis; IRT; Item response theory; Model selection; Pós-processamento; Postprocessing; Pré-processamento; Preprocessing; Seleção de modelo; Supervised learning; Teoria da resposta item; TRI; Unfairness; Viés
• Link de acesso: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-06012025-175603/

Um dos principais desafios atuais em Inteligência Artificial é desenvolver modelos mais imparciais, que não perpetuem os diversos tipos de preconceitos presentes na sociedade. Com esse objetivo, surge um campo de pesquisa emergente denominado Senso de Justiça em Aprendizado de Máquina, que visa incorporar conceitos de justiça ao processo de aprendizado. Esses conceitos podem ser integrados nas diferentes etapas desse processo, e a literatura propõe diversos métodos para esse fim, todos focados predominantemente na melhoria de um único conceito de justiça, ao mesmo tempo que tentam preservar a qualidade das previsões. No entanto, ao priorizar a maximização de apenas um conceito, pode ocorrer a deterioração de outras noções de justiça. Em vista disso, este trabalho propõe os métodos DIF-SR, DIF-MS e DIF-PP, baseados nos princípios do Funcionamento Diferencial dos Itens (DIF), que se distinguem pela etapa do processo de aprendizado em que são aplicados: pré-processamento, seleção de modelo e pós-processamento, respectivamente. O DIF é amplamente utilizado na elaboração de testes imparciais, identificando quais questões favorecem ou prejudicam grupos sociodemográficos distintos, com o objetivo de eliminá-las do teste. Além disso, é possível determinar quais dessas questões são mais imparciais para diferentes grupos de pessoas analisados. Por não se fundamentar em nenhum conceito específico de justiça e por possuir um arcabouço matemático robusto para avaliação, a aplicação do DIF representa uma abordagem promissora para induzir modelos de aprendizado de máquina mais justos. Para viabilizar a aplicação das definições de DIF nos métodos propostos, foi desenvolvida uma modelagem inédita que transforma as previsões dos classificadores em itens de teste de avaliação. Os resultados experimentais indicam que os métodos DIF-SR, DIF-MS e DIF-PP contribuem para a indução de classificadores mais imparciais, melhorando múltiplas noções de justiça e, consequentemente, minimizando a propagação de efeitos discriminatórios.