Poda de redes neurais utilizando o efeito causal entre neuronios.
| Ano de defesa: | 2023 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | , , |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Federal de Campina Grande
|
| Programa de Pós-Graduação: |
PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO
|
| Departamento: |
Centro de Engenharia Elétrica e Informática - CEEI
|
| País: |
Brasil
|
| Palavras-chave em Português: | |
| Área do conhecimento CNPq: | |
| Link de acesso: | https://dspace.sti.ufcg.edu.br/handle/riufcg/31568 |
Resumo: | O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada. |
| id |
UFCG_bf1987501724c91d3d0657c25a4e6724 |
|---|---|
| oai_identifier_str |
oai:dspace.sti.ufcg.edu.br:riufcg/31568 |
| network_acronym_str |
UFCG |
| network_name_str |
Biblioteca Digital de Teses e Dissertações da UFCG |
| repository_id_str |
|
| spelling |
PEREIRA, Eanes Torres.PEREIRA, E. T.http://lattes.cnpq.br/2030738304003254GOMES, Herman Martins.ARAÚJO, Joseana Macêdo Fechine Régis de.ASSIS, Francisco Marcos de.INTERAMINENSE, C. D. O.http://lattes.cnpq.br/2551570530403518INTERAMINENSE, Carlos Daniel Oliveira.O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada.The use of Deep Neural Networks (DNN) to solve machine learning problems became common from 2012, in which the AlexNet model won the ImageNet challenge, which required classifying images into a set of a thousand possible categories. Since then, more complex DNN have emerged, with some having billions of parameters. As a result, applying pruning techniques has become a way to reduce the complexity of a DNN, as these techniques aim to remove input model parameters, resulting in a less complex model with accuracies comparable to those of the input model. In this context, the present research proposes a structured pruning technique that considers the causal effect between neurons to decide which ones will be pruned, along with all their connections. The results obtained in this research show that the proposed technique results in models with higher accuracies compared to other pruning techniques investigated in this dissertation, with better time and disk space occupation than the input model.Submitted by Michelle Lima (michelle.lima@ufcg.edu.br) on 2023-08-22T18:52:31Z No. of bitstreams: 1 CARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf: 4276923 bytes, checksum: 50597fc15c2a8be86ea770e708ca7089 (MD5)Made available in DSpace on 2023-08-22T18:52:31Z (GMT). No. of bitstreams: 1 CARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf: 4276923 bytes, checksum: 50597fc15c2a8be86ea770e708ca7089 (MD5) Previous issue date: 2023-04-14Universidade Federal de Campina GrandePÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃOUFCGBrasilCentro de Engenharia Elétrica e Informática - CEEICiência da computação.Inteligência artificialPodas em redes neuraisEfeito causalSistemas de computaçãoArtificial intelligencePruning in neural networksCausal effectComputing systemsInteligencia artificialPoda en redes neuronalesEfecto causalSistemas computacionalesIntelligence artificielleÉlagage dans les réseaux de neuronesEffet causalSystèmes informatiquesPoda de redes neurais utilizando o efeito causal entre neuronios.Pruning neural networks using the causal effect between neurons.2023-04-142023-08-22T18:52:31Z2023-08-222023-08-22T18:52:31Zhttps://dspace.sti.ufcg.edu.br/handle/riufcg/31568INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023.info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisporinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFCGinstname:Universidade Federal de Campina Grande (UFCG)instacron:UFCGTEXTCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf.txtCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdf.txttext/plain106337https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/3/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf.txtb4b49faa6771deb26a55528b628bb140MD53LICENSElicense.txtlicense.txttext/plain; charset=utf-81748https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/2/license.txt8a4605be74aa9ea9d79846c1fba20a33MD52ORIGINALCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdfCARLOS DANIEL OLIVEIRA INTERAMINENSE – DISSERTAÇÃO (PPGCC) 2023.pdfapplication/pdf4276923https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/1/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf50597fc15c2a8be86ea770e708ca7089MD51riufcg/315682025-07-24 07:28:28.883oai:dspace.sti.ufcg.edu.br:riufcg/31568Tk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=Biblioteca Digital de Teses e Dissertaçõeshttp://bdtd.ufcg.edu.br/PUBhttp://dspace.sti.ufcg.edu.br:8080/oai/requestbdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.bropendoar:48512025-07-24T10:28:28Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG)false |
| dc.title.pt_BR.fl_str_mv |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| dc.title.alternative.pt_BR.fl_str_mv |
Pruning neural networks using the causal effect between neurons. |
| title |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| spellingShingle |
Poda de redes neurais utilizando o efeito causal entre neuronios. INTERAMINENSE, Carlos Daniel Oliveira. Ciência da computação. Inteligência artificial Podas em redes neurais Efeito causal Sistemas de computação Artificial intelligence Pruning in neural networks Causal effect Computing systems Inteligencia artificial Poda en redes neuronales Efecto causal Sistemas computacionales Intelligence artificielle Élagage dans les réseaux de neurones Effet causal Systèmes informatiques |
| title_short |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| title_full |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| title_fullStr |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| title_full_unstemmed |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| title_sort |
Poda de redes neurais utilizando o efeito causal entre neuronios. |
| author |
INTERAMINENSE, Carlos Daniel Oliveira. |
| author_facet |
INTERAMINENSE, Carlos Daniel Oliveira. |
| author_role |
author |
| dc.contributor.advisor1.fl_str_mv |
PEREIRA, Eanes Torres. |
| dc.contributor.advisor1ID.fl_str_mv |
PEREIRA, E. T. |
| dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/2030738304003254 |
| dc.contributor.referee1.fl_str_mv |
GOMES, Herman Martins. |
| dc.contributor.referee2.fl_str_mv |
ARAÚJO, Joseana Macêdo Fechine Régis de. |
| dc.contributor.referee3.fl_str_mv |
ASSIS, Francisco Marcos de. |
| dc.contributor.authorID.fl_str_mv |
INTERAMINENSE, C. D. O. |
| dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/2551570530403518 |
| dc.contributor.author.fl_str_mv |
INTERAMINENSE, Carlos Daniel Oliveira. |
| contributor_str_mv |
PEREIRA, Eanes Torres. GOMES, Herman Martins. ARAÚJO, Joseana Macêdo Fechine Régis de. ASSIS, Francisco Marcos de. |
| dc.subject.cnpq.fl_str_mv |
Ciência da computação. |
| topic |
Ciência da computação. Inteligência artificial Podas em redes neurais Efeito causal Sistemas de computação Artificial intelligence Pruning in neural networks Causal effect Computing systems Inteligencia artificial Poda en redes neuronales Efecto causal Sistemas computacionales Intelligence artificielle Élagage dans les réseaux de neurones Effet causal Systèmes informatiques |
| dc.subject.por.fl_str_mv |
Inteligência artificial Podas em redes neurais Efeito causal Sistemas de computação Artificial intelligence Pruning in neural networks Causal effect Computing systems Inteligencia artificial Poda en redes neuronales Efecto causal Sistemas computacionales Intelligence artificielle Élagage dans les réseaux de neurones Effet causal Systèmes informatiques |
| description |
O uso de Redes Neurais Profundas (RNP) para resolver problemas de aprendizagem de máquina se tornou comum a partir de 2012, ano em que o modelo AlexNet venceu o desafio da ImageNet, que exigia a classificação de imagens que exigia a classificação de imagens em um conjunto de mil categorias possíveis. Apos essa data, outras RNP mais complexas surgiram, chegando a ter bilhões de parâmetros. Assim, aplicar técnicas de poda se tornou uma forma de reduzir a complexidade de uma RNP, pois essas técnicas têm como objetivo remover parâmetros do modelo de entrada, resultando em um modelo menos complexo e com uma acurácia tão boa quanto a obtida pelo modelo de entrada. Nesse contexto, a presente pesquisa propõe uma técnica de poda estruturada que considera o efeito causal entre os neurônios, para decidir quais serão podados, juntamente com todas as suas conexões. Os resultados obtidos nesta pesquisa mostraram que a técnica proposta resulta em modelos com acurácias superiores a outras técnicas de poda investigadas nesta dissertação de podas investigadas e com tempo e ocupação de espaço em disco melhores que o modelo de entrada. |
| publishDate |
2023 |
| dc.date.issued.fl_str_mv |
2023-04-14 |
| dc.date.accessioned.fl_str_mv |
2023-08-22T18:52:31Z |
| dc.date.available.fl_str_mv |
2023-08-22 2023-08-22T18:52:31Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://dspace.sti.ufcg.edu.br/handle/riufcg/31568 |
| dc.identifier.citation.fl_str_mv |
INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023. |
| url |
https://dspace.sti.ufcg.edu.br/handle/riufcg/31568 |
| identifier_str_mv |
INTERAMINENSE, Carlos Daniel Oliveira. Investigando o uso de testes para apoiar a resolução de problemas de programação. 2023. 61 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Ciência da Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2023. |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.publisher.none.fl_str_mv |
Universidade Federal de Campina Grande |
| dc.publisher.program.fl_str_mv |
PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO |
| dc.publisher.initials.fl_str_mv |
UFCG |
| dc.publisher.country.fl_str_mv |
Brasil |
| dc.publisher.department.fl_str_mv |
Centro de Engenharia Elétrica e Informática - CEEI |
| publisher.none.fl_str_mv |
Universidade Federal de Campina Grande |
| dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da UFCG instname:Universidade Federal de Campina Grande (UFCG) instacron:UFCG |
| instname_str |
Universidade Federal de Campina Grande (UFCG) |
| instacron_str |
UFCG |
| institution |
UFCG |
| reponame_str |
Biblioteca Digital de Teses e Dissertações da UFCG |
| collection |
Biblioteca Digital de Teses e Dissertações da UFCG |
| bitstream.url.fl_str_mv |
https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/3/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf.txt https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/2/license.txt https://dspace.sti.ufcg.edu.br/bitstream/riufcg/31568/1/CARLOS+DANIEL+OLIVEIRA+INTERAMINENSE+%E2%80%93+DISSERTA%C3%87%C3%83O+%28PPGCC%29+2023.pdf |
| bitstream.checksum.fl_str_mv |
b4b49faa6771deb26a55528b628bb140 8a4605be74aa9ea9d79846c1fba20a33 50597fc15c2a8be86ea770e708ca7089 |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG) |
| repository.mail.fl_str_mv |
bdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.br |
| _version_ |
1863363539159220224 |