Embedded weights multi-objective feature selection : a novel hybrid method for sparse high-dimensional data

• Ano de defesa: 2025
• Autor(a) principal: Kremer, Gustavo Ribeiro
• Orientador(a): Dorn, Márcio
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: eng
• Palavras-chave em Português: Seleção de recursos; Aprendizado de máquina; Otimização multiobjetivo; Busca heurística; Escalabilidade; Algoritmos evolutivos
• Palavras-chave em Inglês: Sparse problems; NSGA-II
• Link de acesso: http://hdl.handle.net/10183/308919

As abordagens de seleção de features são uma etapa essencial na maioria dos pipelines de aprendizado de máquina, com benefícios que vão muito além de apenas melhorias na acurácia do classificador. Geralmente, as abordagens multiobjetivo são escolhidas para minimizar, simultaneamente, o número de features e o erro do classificador. Essas abordagens geralmente combinam métodos de busca heurística com algoritmos de aprendizado de máquina para formar métodos do tipo wrapper. Os wrappers, por sua vez, podem ser combinados com métodos de filtro ou embedded, criando abordagens híbridas. No entanto, esses métodos têm dificuldade para escalar de forma eficaz, principalmente em regimes de alta dimensão, e geralmente são limitados a conjuntos de dados com menos de 2.000 features. Para resolver isso, propomos o algoritmo Embedded Weights MultiObjective Feature Selection (EW-MOFS), que consiste em um novo método híbrido de seleção de features multiobjetivo que combina um vetor de pesos de uma técnica embedded para orientar e otimizar o espaço de busca do wrapper. O método proposto traz novos operadores genéticos projetados especificamente para lidar com dados de alta esparsidade, abordando as vulnerabilidades de escalabilidade encontradas nos métodos atuais. Avaliamos nosso método em 12 conjuntos de dados de repositórios abertos de Machine Learning e 8 conjuntos de dados de alta dimensão do CuMiDa, que contêm até 54.000 features. O EW-MOFS atinge consistentemente frentes de Pareto com hipervolume igual ou maior do que os algoritmos comparados na maioria dos problemas de seleção de features, principalmente em conjuntos de dados de alta dimensão.