Um novo critério estocástico para poda iterativa nas redes neurais convolucionais

Detalhes bibliográficos
Ano de defesa: 2025
Autor(a) principal: Lamy, Lucas
Orientador(a): Siqueira, Paulo Henrique, 1976-
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Não Informado pela instituição
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Redes neurais (Computação)
Convoluções (Matemática)
Processamento de imagens
Análise Numérica
Link de acesso: https://hdl.handle.net/1884/96935
Resumo: Orientador: Prof. Dr. Paulo Henrique Siqueira
id UFPR_c9bb66e1ca3b6ecea9bf0054721d52e3
oai_identifier_str oai:acervodigital.ufpr.br:1884/96935
network_acronym_str UFPR
network_name_str Repositório Institucional da UFPR
repository_id_str
spelling Universidade Federal do Paraná. Setor de Ciências Exatas. Programa de Pós-Graduação em Métodos Numéricos em EngenhariaSiqueira, Paulo Henrique, 1976-Lamy, Lucas2025-06-16T21:00:28Z2025-06-16T21:00:28Z2025https://hdl.handle.net/1884/96935Orientador: Prof. Dr. Paulo Henrique SiqueiraTese (doutorado) - Universidade Federal do Paraná, Setor de Ciências Exatas, Programa de Pós-Graduação em Métodos Numéricos em Engenharia. Defesa : Curitiba, 25/04/2025Inclui referênciasÁrea de concentração: Programação MatemáticaResumo: As técnicas de poda aplicadas nas redes neurais artificiais são divergentes em relação à tendência dos últimos anos. Enquanto as arquiteturas se tornam cada vez maiores, complexas, com mais parâmetros e camadas, os métodos de poda buscam reduzir a quantidade de parâmetros e a complexidade das redes. A hipótese do bilhete premiado é um algoritmo de poda iterativa para achar redes super esparsas. Esta técnica mostrou que com os mesmos pesos é possível chegar a uma rede de desempenho igual ou superior à rede não podada. Dessa forma, a pergunta natural é: existem outros critérios de poda para se achar o bilhete premiado? Neste trabalho é apresentado um novo critério de poda, denominado de Poda Estocástica com Camada Nula. Utilizando quatro conjuntos de dados e sete arquiteturas da literatura foi analisado o comportamento do método proposto. A análise foi feita por meio do desempenho, níveis de esparsidade e contagem das operações de pontos flutuantes ao longo das rodadas de poda. O algoritmo de Poda Estocástica com Camada Nula conseguiu melhorar a acurácia das redes testadas e apresentou o melhor desempenho quando estavam em seus maiores níveis de esparsidadeAbstract: Pruning techniques applied to artificial neural networks are divergent from the trend observed in recent years. While architectures are becoming larger, more complex, with more parameters and layers, pruning methods reduce the number of parameters and the complexity of networks. The lottery ticket hypothesis is an iterative pruning algorithm to find highly sparse networks. It demonstrated that it is possible to achieve a network with equal or superior performance to the unpruned network with the same initial weights. Thus, the natural question is: are there other pruning criteria to find the winning ticket? In this work, a new pruning criterion is presented, called Stochastic Pruning with Null Layer. The proposed method was analyzed using four datasets and seven architectures from the literature. The analysis was conducted through performance, sparsity levels, and Floating-Point Operations throughout the pruning rounds. The Stochastic Pruning with Null Layer algorithm improved the accuracy of the tested networks and achieved the best performance when it was at its highest levels of sparsity1 recurso online : PDF.application/pdfRedes neurais (Computação)Convoluções (Matemática)Processamento de imagensAnálise NuméricaUm novo critério estocástico para poda iterativa nas redes neurais convolucionaisinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisporreponame:Repositório Institucional da UFPRinstname:Universidade Federal do Paraná (UFPR)instacron:UFPRinfo:eu-repo/semantics/openAccessORIGINALR - T - LUCAS LAMY.pdfapplication/pdf4562195https://acervodigital.ufpr.br/bitstream/1884/96935/1/R%20-%20T%20-%20LUCAS%20LAMY.pdf595a512b4281e0de8c7f459eebe29bc0MD51open access1884/969352025-06-16 18:00:28.649open accessoai:acervodigital.ufpr.br:1884/96935Repositório InstitucionalPUBhttp://acervodigital.ufpr.br/oai/requestinformacaodigital@ufpr.bropendoar:3082025-06-16T21:00:28Repositório Institucional da UFPR - Universidade Federal do Paraná (UFPR)false
dc.title.pt_BR.fl_str_mv Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
title Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
spellingShingle Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
Lamy, Lucas
Redes neurais (Computação)
Convoluções (Matemática)
Processamento de imagens
Análise Numérica
title_short Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
title_full Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
title_fullStr Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
title_full_unstemmed Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
title_sort Um novo critério estocástico para poda iterativa nas redes neurais convolucionais
author Lamy, Lucas
author_facet Lamy, Lucas
author_role author
dc.contributor.other.pt_BR.fl_str_mv Universidade Federal do Paraná. Setor de Ciências Exatas. Programa de Pós-Graduação em Métodos Numéricos em Engenharia
dc.contributor.advisor1.fl_str_mv Siqueira, Paulo Henrique, 1976-
dc.contributor.author.fl_str_mv Lamy, Lucas
contributor_str_mv Siqueira, Paulo Henrique, 1976-
dc.subject.por.fl_str_mv Redes neurais (Computação)
Convoluções (Matemática)
Processamento de imagens
Análise Numérica
topic Redes neurais (Computação)
Convoluções (Matemática)
Processamento de imagens
Análise Numérica
description Orientador: Prof. Dr. Paulo Henrique Siqueira
publishDate 2025
dc.date.accessioned.fl_str_mv 2025-06-16T21:00:28Z
dc.date.available.fl_str_mv 2025-06-16T21:00:28Z
dc.date.issued.fl_str_mv 2025
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/1884/96935
url https://hdl.handle.net/1884/96935
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv 1 recurso online : PDF.
application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFPR
instname:Universidade Federal do Paraná (UFPR)
instacron:UFPR
instname_str Universidade Federal do Paraná (UFPR)
instacron_str UFPR
institution UFPR
reponame_str Repositório Institucional da UFPR
collection Repositório Institucional da UFPR
bitstream.url.fl_str_mv https://acervodigital.ufpr.br/bitstream/1884/96935/1/R%20-%20T%20-%20LUCAS%20LAMY.pdf
bitstream.checksum.fl_str_mv 595a512b4281e0de8c7f459eebe29bc0
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da UFPR - Universidade Federal do Paraná (UFPR)
repository.mail.fl_str_mv informacaodigital@ufpr.br
_version_ 1847526286066450432

Registros relacionados