Método otimizado para predição da relevância de variáveis e redução de dimensionalidade pautado pela abordagem de seleção Wrapper - Andrade, Cássio Antonio (2024)
Mesmo com os avanços em Big Data Analytics e Deep Learning, problemas clássicos de préprocessamento de dados na Estatística e no Aprendizado de Máquina, especialmente os oriundos de conjuntos de dados pequenos, continuam proeminentes. A seleção de variáveis é uma etapa crucial para derivar modelos preditivos robustos e eficientes. Remover previamente variáveis redundantes, irrelevantes e ruidosas melhora a capacidade de generalização dos modelos e reduz o tempo de treinamento e implementação em ambiente de produção. Um conjunto menor de variáveis também facilita a explicabilidade dos modelos, promovendo a chamada inteligência artificial explicável e minimizando os recursos humanos, tecnológicos e/ou econômicos envolvidos na coleta de dados. Entre as abordagens clássicas de seleção de variáveis, a Wrapper é frequentemente a mais eficiente no desempenho de generalização para um modelo destino, mas é também a mais custosa computacionalmente. Estudos recentes têm visado métodos alternativos com melhores desempenhos preditivos e viabilidade computacional para seleção por Wrappers. No entanto, eles geralmente estão focados em meta-heurísticas mais eficientes, pré-filtragem ou uma combinação de ambas. Este trabalho propõe um novo método, uma abordagem inédita ao problema de seleção que visa prever as variáveis relevantes de anotações resultantes da seleção pela abordagem Wrapper para um modelo de regressão logística. Em vez de utilizar meta-heurísticas dispendiosas, são empregados descritores do conjunto de dados e de suas variáveis para treinamento de um modelo de predição de relevância. O modelo preditivo de relevâncias alcançou, em média, 64% de acurácia e 78% de sensibilidade, com uma redução de 30% na dimensionalidade média calculada para os 54 conjuntos de dados utilizados. Comparado com a própria abordagem Wrapper, o desempenho da regressão logística com as variáveis selecionadas pelo método proposto foi similar para 80% dos conjuntos avaliados. Em dois outros conjuntos altamente restritivos à execução da seleção por Wrapper (busca exaustiva), o método proposto reduziu substancialmente a dimensionalidade (33,33% e 56,25%), sem perdas nas acurácias médias. Os resultados indicam que o método proposto é promissor para seleção de variáveis relevantes e redução de dimensionalidade, com baixo custo computacional e sem perdas significativas no desempenho preditivo.