[pt] GRADVEC: EXPLORANDO O ESPAÇO DE GRADIENTE PARA MELHORAR A DETECÇÃO DE AMOSTRAS FORA DA DISTRIBUIÇÃO EM DEEP LEARNING

• Ano de defesa: 2025
• Autor(a) principal: THIAGO MEDEIROS CARVALHO
• Tipo de documento: Tese
• Tipo de acesso: Acesso aberto
• Idioma: eng
• Instituição de defesa: MAXWELL
• Palavras-chave em Português: [pt] APRENDIZADO PROFUNDO; [pt] DETECCAO DE AMOSTRAS FORA DA DISTRIBUICAO; [pt] ESPACO DE GRADIENTE; [en] DEEP LEARNING; [en] OUT OF DISTRIBUTION DETECTION; [en] GRADIENT SPACE
• Link de acesso: https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=71193&idi=1; https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=71193&idi=2; http://doi.org/10.17771/PUCRio.acad.71193

[pt] Desenvolver modelos de Deep Learning no mundo real requer algumas atenções que geralmente não são consideradas durante o treinamento. Em tais cenários, onde não é possível controlar a informação consumida pelo modelo, é importante que o modelo consiga identificar quando uma amostra não pertence a nenhuma das classes conhecidas. Essa capacidade do modelo é incluída usando métodos para detecção de amostras fora da distribuição (OOD), técnica cujo objetivo é distinguir amostras de classes desconhecidas em relação às classes conhecidas. Esses métodos geralmente dependem de características intermediárias ou de saída para calcular os scores para desconhecimento, mas o espaço do gradiente ainda é pouco explorado para essa tarefa por conta de sua maior complexidade na geração de uma representação do gradiente mais adequado. Entretanto, o espaço do gradiente geralmente traz uma representação mais rica em relação ao conhecimento ou desconhecimento do modelo em relação à saída esperada para a amostra de entrada, que é totalmente aderente ao que é esperado para uma tarefa de OOD detection. Com base nesta ideia, este trabalho propõe uma nova família de métodos usando características de gradiente, denominada GradVec, usando o vetor de gradiente como representação de entrada para diferentes métodos de detecção OOD. A ideia principal é que o gradiente do modelo apresenta, de maneira mais informativa, o conhecimento de que uma amostra pertence a uma classe conhecida, podendo distinguir das outras desconhecidas. Os métodos GradVec não alteram o procedimento de treinamento do modelo e nenhum dado adicional é necessário para ajustar o detector OOD, e pode ser usado em qualquer modelo pré-treinado. A abordagem foi avaliada em diferentes tarefas, como classificação de imagens, classificação de texto e segmentação semântica. Nossa abordagem apresenta resultados superiores em diferentes cenários para detecção OOD na classificação de imagens e análise de sentimento, reduzindo a FPR95 em 88,17 por cento e 56,91 por cento, respectivamente.