Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.
| Ano de defesa: | 2025 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Tese |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Biblioteca Digitais de Teses e Dissertações da USP
|
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/ |
Resumo: | As Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados. |
| id |
USP_cacc9bbd1b194d98d3897f3b0c4553a5 |
|---|---|
| oai_identifier_str |
oai:teses.usp.br:tde-08082025-102430 |
| network_acronym_str |
USP |
| network_name_str |
Biblioteca Digital de Teses e Dissertações da USP |
| repository_id_str |
|
| spelling |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos.Untitled in englishAlgoritmos genéticosArtificial neural networksAutoMLAutoMLConvolutional neural networksFully connected neural networksGenetic algorithmsHyperparameter optimizationLSTMOtimização de hiperparâmetrosRedes neurais artificiaisAs Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados.Artificial Neural Networks (ANNs), with their well-known ability to learn and adapt to nonlinear and high-dimensional data, have driven a technological revolution across various domains, from fraud detection in financial systems to pattern recognition in images and the development of generative models that enhance human-machine interaction, as exemplified by the ChatGPT service from OpenAI and Googles Gemini. However, the optimal performance of ANNs heavily relies on the proper definition of their hyperparameters, a process that is still often performed manually or empirically, thereby limiting their full potential. In this context, this work proposes a novel method for the automatic development of Convolutional Neural Networks (CNNs), Long Short-Term Memory (LSTM) networks, and Fully Connected Neural Networks (FCNNs) using Genetic Algorithms (GAs). The method employs a hybrid chromosomal representation and considers a broader range of hyperparameters during the evolutionary process compared to existing approaches. The proposed method aims not only to facilitate the automatic achievement of high-performance models but also to allow expert users to customize configurations, further enhancing network performance. The results demonstrate that the proposed method developed ANNs with superior performance compared to similar methods, achieving up to 87% reductions in Root Mean Squared Error (RMSE). Correlation analyses revealed that different hyperparameters were most relevant for each dataset, although the optimizer consistently proved to be a key factor across all of them. Finally, the exploration of GA configurations showed that the initially defined crossover and mutation probabilities yielded the best outcomes. Conversely, reducing the population size led to improved results in two out of the four datasets analyzed.Biblioteca Digitais de Teses e Dissertações da USPHernandez, Emílio Del MoralItano, Fernando2025-04-17info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2025-08-08T13:39:02Zoai:teses.usp.br:tde-08082025-102430Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212025-08-08T13:39:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false |
| dc.title.none.fl_str_mv |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. Untitled in english |
| title |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| spellingShingle |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. Itano, Fernando Algoritmos genéticos Artificial neural networks AutoML AutoML Convolutional neural networks Fully connected neural networks Genetic algorithms Hyperparameter optimization LSTM Otimização de hiperparâmetros Redes neurais artificiais |
| title_short |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| title_full |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| title_fullStr |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| title_full_unstemmed |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| title_sort |
Auto RNA: desenvolvimento automático de redes neurais artificiais utilizando algoritmos genéticos. |
| author |
Itano, Fernando |
| author_facet |
Itano, Fernando |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
Hernandez, Emílio Del Moral |
| dc.contributor.author.fl_str_mv |
Itano, Fernando |
| dc.subject.por.fl_str_mv |
Algoritmos genéticos Artificial neural networks AutoML AutoML Convolutional neural networks Fully connected neural networks Genetic algorithms Hyperparameter optimization LSTM Otimização de hiperparâmetros Redes neurais artificiais |
| topic |
Algoritmos genéticos Artificial neural networks AutoML AutoML Convolutional neural networks Fully connected neural networks Genetic algorithms Hyperparameter optimization LSTM Otimização de hiperparâmetros Redes neurais artificiais |
| description |
As Redes Neurais Artificiais (RNAs), com sua reconhecida capacidade de aprender e adaptar-se a dados não lineares e de alta dimensionalidade, têm impulsionado uma revolução tecnológica em diversas áreas, desde a detecção de fraudes em sistemas financeiros até o reconhecimento de padrões em imagens e a criação de modelos generativos para aprimorar a interação humano-máquina, como exemplificado pelo serviço ChatGPT oferecido pela empresa OpenAI e o Gemini do Google. No entanto, o desempenho ótimo das RNAs depende crucialmente da definição adequada de seus hiperparâmetros, um processo que ainda é frequentemente realizado de forma manual ou empírica, limitando o potencial dessas redes. Neste contexto, este trabalho propõe um método diferenciado para o desenvolvimento automático de RNAs dos tipos convolucional (CNN Convolutional Neural Networks), recorrentes LSTM (Long-short term memory) e totalmente conectadas (FCNN Fully connected neural networks) utilizando algoritmos genéticos (AG) com uma representação cromossômica híbrida e considerando uma gama mais ampla de hiperparâmetros no processo evolutivo em comparação com métodos existentes. O método proposto visa não apenas facilitar a obtenção de bons resultados de forma automática, mas também permitir a personalização de suas configurações por especialistas em RNAs, potencializando ainda mais seu desempenho. Os resultados demonstram que o método apresentado desenvolveu RNAs com desempenho superior ao de métodos similares, obtendo reduções de até 87% no RMSE (Root Mean Squared Error). As análises de correlação demonstraram que a relevância dos hiperparâmetros varia entre os conjuntos de dados. Ainda assim, o otimizador manteve-se consistente como fator relevante em todos eles. Por fim, a exploração das configurações do AG mostrou que os valores das probabilidades de combinação e mutação definidas inicialmente foram as que produziram os melhores resultados. Por outro lado, a redução no tamanho da população produziu melhores resultados em dois dos quatro conjuntos de dados analisados. |
| publishDate |
2025 |
| dc.date.none.fl_str_mv |
2025-04-17 |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
| format |
doctoralThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/ |
| url |
https://www.teses.usp.br/teses/disponiveis/3/3142/tde-08082025-102430/ |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.relation.none.fl_str_mv |
|
| dc.rights.driver.fl_str_mv |
Liberar o conteúdo para acesso público. info:eu-repo/semantics/openAccess |
| rights_invalid_str_mv |
Liberar o conteúdo para acesso público. |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
application/pdf |
| dc.coverage.none.fl_str_mv |
|
| dc.publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
| publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
| dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo (USP) instacron:USP |
| instname_str |
Universidade de São Paulo (USP) |
| instacron_str |
USP |
| institution |
USP |
| reponame_str |
Biblioteca Digital de Teses e Dissertações da USP |
| collection |
Biblioteca Digital de Teses e Dissertações da USP |
| repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP) |
| repository.mail.fl_str_mv |
virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br |
| _version_ |
1865492321789804544 |