Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.

Detalhes bibliográficos
Ano de defesa: 2025
Autor(a) principal: Itano, Fernando
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/
Resumo: As Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados.
id USP_cacc9bbd1b194d98d3897f3b0c4553a5
oai_identifier_str oai:teses.usp.br:tde-08082025-102430
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str
spelling Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.Untitled in englishAlgoritmos genéticosArtificial neural networksAutoMLAutoMLConvolutional neural networksFully connected neural networksGenetic algorithmsHyperparameter optimizationLSTMOtimização de hiperparâmetrosRedes neurais artificiaisAs Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados.Artificial Neural Networks (ANNs), with their well-known ability to learn and adapt to nonlinear and high-dimensional data, have driven a technological revolution across various domains, from fraud detection in financial systems to pattern recognition in images and the development of generative models that enhance human-machine interaction, as exemplified by the ChatGPT service from OpenAI and Googles Gemini. However, the optimal performance of ANNs heavily relies on the proper definition of their hyperparameters, a process that is still often performed manually or empirically, thereby limiting their full potential. In this context, this work proposes a novel method for the automatic development of Convolutional Neural Networks (CNNs), Long Short-Term Memory (LSTM) networks, and Fully Connected Neural Networks (FCNNs) using Genetic Algorithms (GAs). The method employs a hybrid chromosomal representation and considers a broader range of hyperparameters during the evolutionary process compared to existing approaches. The proposed method aims not only to facilitate the automatic achievement of high-performance models but also to allow expert users to customize configurations, further enhancing network performance. The results demonstrate that the proposed method developed ANNs with superior performance compared to similar methods, achieving up to 87% reductions in Root Mean Squared Error (RMSE). Correlation analyses revealed that different hyperparameters were most relevant for each dataset, although the optimizer consistently proved to be a key factor across all of them. Finally, the exploration of GA configurations showed that the initially defined crossover and mutation probabilities yielded the best outcomes. Conversely, reducing the population size led to improved results in two out of the four datasets analyzed.Biblioteca Digitais de Teses e Dissertações da USPHernandez, Emílio Del MoralItano, Fernando2025-04-17info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2025-08-08T13:39:02Zoai:teses.usp.br:tde-08082025-102430Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212025-08-08T13:39:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
Untitled in english
title Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
spellingShingle Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
Itano, Fernando
Algoritmos genéticos
Artificial neural networks
AutoML
AutoML
Convolutional neural networks
Fully connected neural networks
Genetic algorithms
Hyperparameter optimization
LSTM
Otimização de hiperparâmetros
Redes neurais artificiais
title_short Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
title_full Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
title_fullStr Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
title_full_unstemmed Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
title_sort Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
author Itano, Fernando
author_facet Itano, Fernando
author_role author
dc.contributor.none.fl_str_mv Hernandez, Emílio Del Moral
dc.contributor.author.fl_str_mv Itano, Fernando
dc.subject.por.fl_str_mv Algoritmos genéticos
Artificial neural networks
AutoML
AutoML
Convolutional neural networks
Fully connected neural networks
Genetic algorithms
Hyperparameter optimization
LSTM
Otimização de hiperparâmetros
Redes neurais artificiais
topic Algoritmos genéticos
Artificial neural networks
AutoML
AutoML
Convolutional neural networks
Fully connected neural networks
Genetic algorithms
Hyperparameter optimization
LSTM
Otimização de hiperparâmetros
Redes neurais artificiais
description As Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados.
publishDate 2025
dc.date.none.fl_str_mv 2025-04-17
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/
url https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1865492321789804544