Poda de redes neurais utilizando o efeito causal entre neuronios.

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: INTERAMINENSE, Carlos Daniel Oliveira. lattes
Orientador(a): PEREIRA, Eanes Torres. lattes
Banca de defesa: GOMES, Herman Martins., ARAÚJO, Joseana Macêdo Fechine Régis de., ASSIS, Francisco Marcos de.
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Campina Grande
Programa de Pós-Graduação: PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO
Departamento: Centro de Engenharia Elétrica e Informática - CEEI
País: Brasil
Palavras-chave em Português:
Área do conhecimento CNPq:
Link de acesso: https://dspace.sti.ufcg.edu.br/handle/riufcg/31568
Resumo: O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada.
id UFCG_bf1987501724c91d3d0657c25a4e6724
oai_identifier_str oai:dspace.sti.ufcg.edu.br:riufcg/31568
network_acronym_str UFCG
network_name_str Biblioteca Digital de Teses e Dissertações da UFCG
repository_id_str
spelling PEREIRA, Eanes Torres.PEREIRA, E. T.http://lattes.cnpq.br/2030738304003254GOMES, Herman Martins.ARAÚJO, Joseana Macêdo Fechine Régis de.ASSIS, Francisco Marcos de.INTERAMINENSE, C. D. O.http://lattes.cnpq.br/2551570530403518INTERAMINENSE, Carlos Daniel Oliveira.O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada.The use of Deep Neural Networks (DNN) to solve machine learning problems became common from 2012, in which the AlexNet model won the ImageNet challenge, which required classifying images into a set of a thousand possible categories. Since then, more complex DNN have emerged, with some having billions of parameters. As a result, applying pruning techniques has become a way to reduce the complexity of a DNN, as these techniques aim to remove input model parameters, resulting in a less complex model with accuracies comparable to those of the input model. In this context, the present research proposes a structured pruning technique that considers the causal effect between neurons to decide which ones will be pruned, along with all their connections. The results obtained in this research show that the proposed technique results in models with higher accuracies compared to other pruning techniques investigated in this dissertation, with better time and disk space occupation than the input model.Submitted by Michelle Lima (michelle.lima@ufcg.edu.br) on 2023-08-22T18:52:31Z No. of bitstreams: 1 CARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf: 4276923 bytes, checksum: 50597fc15c2a8be86ea770e708ca7089 (MD5)Made available in DSpace on 2023-08-22T18:52:31Z (GMT). No. of bitstreams: 1 CARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf: 4276923 bytes, checksum: 50597fc15c2a8be86ea770e708ca7089 (MD5) Previous issue date: 2023-04-14Universidade Federal de Campina GrandePÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃOUFCGBrasilCentro de Engenharia Elétrica e Informática - CEEICiência da computação.Inteligência artificialPodas em redes neuraisEfeito causalSistemas de computaçãoArtificial intelligencePruning in neural networksCausal effectComputing systemsInteligencia artificialPoda en redes neuronalesEfecto causalSistemas computacionalesIntelligence artificielleÉlagage dans les réseaux de neuronesEffet causalSystèmes informatiquesPoda de redes neurais utilizando o efeito causal entre neuronios.Pruning neural networks using the causal effect between neurons.2023-04-142023-08-22T18:52:31Z2023-08-222023-08-22T18:52:31Zhttps://dspace.sti.ufcg.edu.br/handle/riufcg/31568INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023.info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisporinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFCGinstname:Universidade Federal de Campina Grande (UFCG)instacron:UFCGTEXTCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf.txtCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf.txttext/plain106337https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/3/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf.txtb4b49faa6771deb26a55528b628bb140MD53LICENSElicense.txtlicense.txttext/plain; charset=utf-81748https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/2/license.txt8a4605be74aa9ea9d79846c1fba20a33MD52ORIGINALCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdfCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdfapplication/pdf4276923https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/1/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf50597fc15c2a8be86ea770e708ca7089MD51riufcg/315682025-07-24 07:28:28.883oai:dspace.sti.ufcg.edu.br:riufcg/31568Tk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=Biblioteca Digital de Teses e Dissertaçõeshttp://bdtd.ufcg.edu.br/PUBhttp://dspace.sti.ufcg.edu.br:8080/oai/requestbdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.bropendoar:48512025-07-24T10:28:28Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG)false
dc.title.pt_BR.fl_str_mv Poda de redes neurais utilizando o efeito causal entre neuronios.
dc.title.alternative.pt_BR.fl_str_mv Pruning neural networks using the causal effect between neurons.
title Poda de redes neurais utilizando o efeito causal entre neuronios.
spellingShingle Poda de redes neurais utilizando o efeito causal entre neuronios.
INTERAMINENSE, Carlos Daniel Oliveira.
Ciência da computação.
Inteligência artificial
Podas em redes neurais
Efeito causal
Sistemas de computação
Artificial intelligence
Pruning in neural networks
Causal effect
Computing systems
Inteligencia artificial
Poda en redes neuronales
Efecto causal
Sistemas computacionales
Intelligence artificielle
Élagage dans les réseaux de neurones
Effet causal
Systèmes informatiques
title_short Poda de redes neurais utilizando o efeito causal entre neuronios.
title_full Poda de redes neurais utilizando o efeito causal entre neuronios.
title_fullStr Poda de redes neurais utilizando o efeito causal entre neuronios.
title_full_unstemmed Poda de redes neurais utilizando o efeito causal entre neuronios.
title_sort Poda de redes neurais utilizando o efeito causal entre neuronios.
author INTERAMINENSE, Carlos Daniel Oliveira.
author_facet INTERAMINENSE, Carlos Daniel Oliveira.
author_role author
dc.contributor.advisor1.fl_str_mv PEREIRA, Eanes Torres.
dc.contributor.advisor1ID.fl_str_mv PEREIRA, E. T.
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/2030738304003254
dc.contributor.referee1.fl_str_mv GOMES, Herman Martins.
dc.contributor.referee2.fl_str_mv ARAÚJO, Joseana Macêdo Fechine Régis de.
dc.contributor.referee3.fl_str_mv ASSIS, Francisco Marcos de.
dc.contributor.authorID.fl_str_mv INTERAMINENSE, C. D. O.
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/2551570530403518
dc.contributor.author.fl_str_mv INTERAMINENSE, Carlos Daniel Oliveira.
contributor_str_mv PEREIRA, Eanes Torres.
GOMES, Herman Martins.
ARAÚJO, Joseana Macêdo Fechine Régis de.
ASSIS, Francisco Marcos de.
dc.subject.cnpq.fl_str_mv Ciência da computação.
topic Ciência da computação.
Inteligência artificial
Podas em redes neurais
Efeito causal
Sistemas de computação
Artificial intelligence
Pruning in neural networks
Causal effect
Computing systems
Inteligencia artificial
Poda en redes neuronales
Efecto causal
Sistemas computacionales
Intelligence artificielle
Élagage dans les réseaux de neurones
Effet causal
Systèmes informatiques
dc.subject.por.fl_str_mv Inteligência artificial
Podas em redes neurais
Efeito causal
Sistemas de computação
Artificial intelligence
Pruning in neural networks
Causal effect
Computing systems
Inteligencia artificial
Poda en redes neuronales
Efecto causal
Sistemas computacionales
Intelligence artificielle
Élagage dans les réseaux de neurones
Effet causal
Systèmes informatiques
description O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada.
publishDate 2023
dc.date.issued.fl_str_mv 2023-04-14
dc.date.accessioned.fl_str_mv 2023-08-22T18:52:31Z
dc.date.available.fl_str_mv 2023-08-22
2023-08-22T18:52:31Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://dspace.sti.ufcg.edu.br/handle/riufcg/31568
dc.identifier.citation.fl_str_mv INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023.
url https://dspace.sti.ufcg.edu.br/handle/riufcg/31568
identifier_str_mv INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023.
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Campina Grande
dc.publisher.program.fl_str_mv PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO
dc.publisher.initials.fl_str_mv UFCG
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Centro de Engenharia Elétrica e Informática - CEEI
publisher.none.fl_str_mv Universidade Federal de Campina Grande
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da UFCG
instname:Universidade Federal de Campina Grande (UFCG)
instacron:UFCG
instname_str Universidade Federal de Campina Grande (UFCG)
instacron_str UFCG
institution UFCG
reponame_str Biblioteca Digital de Teses e Dissertações da UFCG
collection Biblioteca Digital de Teses e Dissertações da UFCG
bitstream.url.fl_str_mv https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/3/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf.txt
https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/2/license.txt
https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/1/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf
bitstream.checksum.fl_str_mv b4b49faa6771deb26a55528b628bb140
8a4605be74aa9ea9d79846c1fba20a33
50597fc15c2a8be86ea770e708ca7089
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG)
repository.mail.fl_str_mv bdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.br
_version_ 1863363539159220224