Aprendizagem Contínua para Classificação de Imagens
| Ano de defesa: | 2024 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Federal de Pernambuco
|
| Programa de Pós-Graduação: |
Programa de Pos Graduacao em Ciencia da Computacao
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Brasil
|
| Palavras-chave em Português: | |
| Link de acesso: | https://repositorio.ufpe.br/handle/123456789/67767 |
Resumo: | A habilidade de realizar Aprendizado Contínuo (Continual Learning) é crucial para o desenvolvimento de modelos de Inteligência Artificial capazes de adquirir e manter conheci mento ao longo do tempo sem esquecer informações anteriores. Isso representa um grande desafio técnico, dado que redes neurais são suscetíveis ao fenômeno de esquecimento catas trófico durante o processo de aprendizado de novas tarefas. Métodos basados na abordagem de pseudo-replay utilizam redes gerativas para criar amostras sintéticas de tarefas anteriores, que são então apresentadas ao modelo durante o aprendizado de novas tarefas com o intuito de reduzir o esquecimento. Nesta dissertação, exploramos melhorias no então método estado da arte baseado na abordagem de pseudo-replay, Invariant Representation for Continual Le arning (IRCL). Utilizamos como modelo gerativo uma cVAE-GAN (Conditional Variational Autoencoder Generative Adversarial Network) e desacoplamos o seu treinamnto do restante da arquitetura, de forma a otimizar as diferentes partes da rede de forma independente. Além disso, utilizamos camadas convolucionais ao invés de camadas lineares. Os resultados experi mentais alcançados demonstram melhorias de até 10 pontos percentuais na Acurácia Média e de até 8 pontos na média do Backward Transfer, superando o estado da arte nos conjuntos de dados Split MNIST e Split FashionMNIST. |
| id |
UFPE_d475191affa29e57cec72d361ef205fa |
|---|---|
| oai_identifier_str |
oai:repositorio.ufpe.br:123456789/67767 |
| network_acronym_str |
UFPE |
| network_name_str |
Repositório Institucional da UFPE |
| repository_id_str |
|
| spelling |
ALCÂNTARA, Lucas Augusto Mota dehttp://lattes.cnpq.br/2281206626592067http://lattes.cnpq.br/3084134533707587https://orcid.org/0000-0002-3677-0264REN, Tsang Ing2026-01-21T14:43:28Z2026-01-21T14:43:28Z2024-03-26ALCANTARA, Lucas Augusto Mota de. Aprendizagem Contínua para Classificação de Imagens. 2024. Dissertação (Mestrado em Ciências da Computação) - Universidade Federal de Pernambuco, Recife, 2024.https://repositorio.ufpe.br/handle/123456789/67767A habilidade de realizar Aprendizado Contínuo (Continual Learning) é crucial para o desenvolvimento de modelos de Inteligência Artificial capazes de adquirir e manter conheci mento ao longo do tempo sem esquecer informações anteriores. Isso representa um grande desafio técnico, dado que redes neurais são suscetíveis ao fenômeno de esquecimento catas trófico durante o processo de aprendizado de novas tarefas. Métodos basados na abordagem de pseudo-replay utilizam redes gerativas para criar amostras sintéticas de tarefas anteriores, que são então apresentadas ao modelo durante o aprendizado de novas tarefas com o intuito de reduzir o esquecimento. Nesta dissertação, exploramos melhorias no então método estado da arte baseado na abordagem de pseudo-replay, Invariant Representation for Continual Le arning (IRCL). Utilizamos como modelo gerativo uma cVAE-GAN (Conditional Variational Autoencoder Generative Adversarial Network) e desacoplamos o seu treinamnto do restante da arquitetura, de forma a otimizar as diferentes partes da rede de forma independente. Além disso, utilizamos camadas convolucionais ao invés de camadas lineares. Os resultados experi mentais alcançados demonstram melhorias de até 10 pontos percentuais na Acurácia Média e de até 8 pontos na média do Backward Transfer, superando o estado da arte nos conjuntos de dados Split MNIST e Split FashionMNIST.Continual Learning is the concept of having a model able to sequentially learn to solve new tasks without losing the ability to solve previous tasks. Achieving this is challenging because neural networks usually suffer from catastrophic forgetting of the preceding tasks when they are learning new ones. To handle this issue, pseudo-replay approaches leverages the performance of generative networks using them to generate samples related to past data to serve as input to the model when it is learning new tasks. In this work, we propose an improved architecture and training strategy based on the state-of-the-art pseudo-replay IRCL method. We use a cVAE-GAN as the generative model and train it decoupled from the other components of the architecture. Also, we make use of convolutional layers for the architecture components instead of linear ones. Our experimental results show that the proposed method outperforms the state-of-the-art IRCL method by up to 10% in Average Accuracy and up to 8.3% in Average Backward Transfer on both Split MNIST and Split FashionMNIST datasetsporUniversidade Federal de PernambucoPrograma de Pos Graduacao em Ciencia da ComputacaoUFPEBrasilhttps://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessAprendizado ContínuoEsquecimento CatastróficoPseudo ReplayAprendizagem Contínua para Classificação de Imagensinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesismestradoreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPEORIGINALDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdfDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdfapplication/pdf2336195https://repositorio.ufpe.br/bitstream/123456789/67767/1/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdfc8b213ff1b226fb6e48a507e4a4eeef4MD51LICENSElicense.txtlicense.txttext/plain; charset=utf-82362https://repositorio.ufpe.br/bitstream/123456789/67767/2/license.txt5e89a1613ddc8510c6576f4b23a78973MD52TEXTDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdf.txtDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdf.txtExtracted texttext/plain109785https://repositorio.ufpe.br/bitstream/123456789/67767/3/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdf.txta67ebe954d0c265a742f82d9c03e553cMD53THUMBNAILDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdf.jpgDISSERTAÇÃO Lucas Augusto Mota de Alcantara.pdf.jpgGenerated Thumbnailimage/jpeg1167https://repositorio.ufpe.br/bitstream/123456789/67767/4/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdf.jpgc419c2aea42d0b7c9f812fa07b1000e4MD54123456789/677672026-01-25 16:53:10.468oai:repositorio.ufpe.br:123456789/67767VGVybW8gZGUgRGVww7NzaXRvIExlZ2FsIGUgQXV0b3JpemHDp8OjbyBwYXJhIFB1YmxpY2l6YcOnw6NvIGRlIERvY3VtZW50b3Mgbm8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRQoKCkRlY2xhcm8gZXN0YXIgY2llbnRlIGRlIHF1ZSBlc3RlIFRlcm1vIGRlIERlcMOzc2l0byBMZWdhbCBlIEF1dG9yaXphw6fDo28gdGVtIG8gb2JqZXRpdm8gZGUgZGl2dWxnYcOnw6NvIGRvcyBkb2N1bWVudG9zIGRlcG9zaXRhZG9zIG5vIFJlcG9zaXTDs3JpbyBEaWdpdGFsIGRhIFVGUEUgZSBkZWNsYXJvIHF1ZToKCkkgLSBvcyBkYWRvcyBwcmVlbmNoaWRvcyBubyBmb3JtdWzDoXJpbyBkZSBkZXDDs3NpdG8gc8OjbyB2ZXJkYWRlaXJvcyBlIGF1dMOqbnRpY29zOwoKSUkgLSAgbyBjb250ZcO6ZG8gZGlzcG9uaWJpbGl6YWRvIMOpIGRlIHJlc3BvbnNhYmlsaWRhZGUgZGUgc3VhIGF1dG9yaWE7CgpJSUkgLSBvIGNvbnRlw7pkbyDDqSBvcmlnaW5hbCwgZSBzZSBvIHRyYWJhbGhvIGUvb3UgcGFsYXZyYXMgZGUgb3V0cmFzIHBlc3NvYXMgZm9yYW0gdXRpbGl6YWRvcywgZXN0YXMgZm9yYW0gZGV2aWRhbWVudGUgcmVjb25oZWNpZGFzOwoKSVYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIG9icmEgY29sZXRpdmEgKG1haXMgZGUgdW0gYXV0b3IpOiB0b2RvcyBvcyBhdXRvcmVzIGVzdMOjbyBjaWVudGVzIGRvIGRlcMOzc2l0byBlIGRlIGFjb3JkbyBjb20gZXN0ZSB0ZXJtbzsKClYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIFRyYWJhbGhvIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28sIERpc3NlcnRhw6fDo28gb3UgVGVzZTogbyBhcnF1aXZvIGRlcG9zaXRhZG8gY29ycmVzcG9uZGUgw6AgdmVyc8OjbyBmaW5hbCBkbyB0cmFiYWxobzsKClZJIC0gcXVhbmRvIHRyYXRhci1zZSBkZSBUcmFiYWxobyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvLCBEaXNzZXJ0YcOnw6NvIG91IFRlc2U6IGVzdG91IGNpZW50ZSBkZSBxdWUgYSBhbHRlcmHDp8OjbyBkYSBtb2RhbGlkYWRlIGRlIGFjZXNzbyBhbyBkb2N1bWVudG8gYXDDs3MgbyBkZXDDs3NpdG8gZSBhbnRlcyBkZSBmaW5kYXIgbyBwZXLDrW9kbyBkZSBlbWJhcmdvLCBxdWFuZG8gZm9yIGVzY29saGlkbyBhY2Vzc28gcmVzdHJpdG8sIHNlcsOhIHBlcm1pdGlkYSBtZWRpYW50ZSBzb2xpY2l0YcOnw6NvIGRvIChhKSBhdXRvciAoYSkgYW8gU2lzdGVtYSBJbnRlZ3JhZG8gZGUgQmlibGlvdGVjYXMgZGEgVUZQRSAoU0lCL1VGUEUpLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gQWJlcnRvOgoKTmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRlIGF1dG9yIHF1ZSByZWNhZW0gc29icmUgZXN0ZSBkb2N1bWVudG8sIGZ1bmRhbWVudGFkbyBuYSBMZWkgZGUgRGlyZWl0byBBdXRvcmFsIG5vIDkuNjEwLCBkZSAxOSBkZSBmZXZlcmVpcm8gZGUgMTk5OCwgYXJ0LiAyOSwgaW5jaXNvIElJSSwgYXV0b3Jpem8gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBQZXJuYW1idWNvIGEgZGlzcG9uaWJpbGl6YXIgZ3JhdHVpdGFtZW50ZSwgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkIChhcXVpc2nDp8OjbykgYXRyYXbDqXMgZG8gc2l0ZSBkbyBSZXBvc2l0w7NyaW8gRGlnaXRhbCBkYSBVRlBFIG5vIGVuZGVyZcOnbyBodHRwOi8vd3d3LnJlcG9zaXRvcmlvLnVmcGUuYnIsIGEgcGFydGlyIGRhIGRhdGEgZGUgZGVww7NzaXRvLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gUmVzdHJpdG86CgpOYSBxdWFsaWRhZGUgZGUgdGl0dWxhciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgZGUgYXV0b3IgcXVlIHJlY2FlbSBzb2JyZSBlc3RlIGRvY3VtZW50bywgZnVuZGFtZW50YWRvIG5hIExlaSBkZSBEaXJlaXRvIEF1dG9yYWwgbm8gOS42MTAgZGUgMTkgZGUgZmV2ZXJlaXJvIGRlIDE5OTgsIGFydC4gMjksIGluY2lzbyBJSUksIGF1dG9yaXpvIGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgUGVybmFtYnVjbyBhIGRpc3BvbmliaWxpemFyIGdyYXR1aXRhbWVudGUsIHNlbSByZXNzYXJjaW1lbnRvIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgcGFyYSBmaW5zIGRlIGxlaXR1cmEsIGltcHJlc3PDo28gZS9vdSBkb3dubG9hZCAoYXF1aXNpw6fDo28pIGF0cmF2w6lzIGRvIHNpdGUgZG8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRSBubyBlbmRlcmXDp28gaHR0cDovL3d3dy5yZXBvc2l0b3Jpby51ZnBlLmJyLCBxdWFuZG8gZmluZGFyIG8gcGVyw61vZG8gZGUgZW1iYXJnbyBjb25kaXplbnRlIGFvIHRpcG8gZGUgZG9jdW1lbnRvLCBjb25mb3JtZSBpbmRpY2FkbyBubyBjYW1wbyBEYXRhIGRlIEVtYmFyZ28uCg==Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212026-01-25T19:53:10Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false |
| dc.title.pt_BR.fl_str_mv |
Aprendizagem Contínua para Classificação de Imagens |
| title |
Aprendizagem Contínua para Classificação de Imagens |
| spellingShingle |
Aprendizagem Contínua para Classificação de Imagens ALCÂNTARA, Lucas Augusto Mota de Aprendizado Contínuo Esquecimento Catastrófico Pseudo Replay |
| title_short |
Aprendizagem Contínua para Classificação de Imagens |
| title_full |
Aprendizagem Contínua para Classificação de Imagens |
| title_fullStr |
Aprendizagem Contínua para Classificação de Imagens |
| title_full_unstemmed |
Aprendizagem Contínua para Classificação de Imagens |
| title_sort |
Aprendizagem Contínua para Classificação de Imagens |
| author |
ALCÂNTARA, Lucas Augusto Mota de |
| author_facet |
ALCÂNTARA, Lucas Augusto Mota de |
| author_role |
author |
| dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/2281206626592067 |
| dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/3084134533707587 |
| dc.contributor.advisorORCID.pt_BR.fl_str_mv |
https://orcid.org/0000-0002-3677-0264 |
| dc.contributor.author.fl_str_mv |
ALCÂNTARA, Lucas Augusto Mota de |
| dc.contributor.advisor1.fl_str_mv |
REN, Tsang Ing |
| contributor_str_mv |
REN, Tsang Ing |
| dc.subject.por.fl_str_mv |
Aprendizado Contínuo Esquecimento Catastrófico Pseudo Replay |
| topic |
Aprendizado Contínuo Esquecimento Catastrófico Pseudo Replay |
| description |
A habilidade de realizar Aprendizado Contínuo (Continual Learning) é crucial para o desenvolvimento de modelos de Inteligência Artificial capazes de adquirir e manter conheci mento ao longo do tempo sem esquecer informações anteriores. Isso representa um grande desafio técnico, dado que redes neurais são suscetíveis ao fenômeno de esquecimento catas trófico durante o processo de aprendizado de novas tarefas. Métodos basados na abordagem de pseudo-replay utilizam redes gerativas para criar amostras sintéticas de tarefas anteriores, que são então apresentadas ao modelo durante o aprendizado de novas tarefas com o intuito de reduzir o esquecimento. Nesta dissertação, exploramos melhorias no então método estado da arte baseado na abordagem de pseudo-replay, Invariant Representation for Continual Le arning (IRCL). Utilizamos como modelo gerativo uma cVAE-GAN (Conditional Variational Autoencoder Generative Adversarial Network) e desacoplamos o seu treinamnto do restante da arquitetura, de forma a otimizar as diferentes partes da rede de forma independente. Além disso, utilizamos camadas convolucionais ao invés de camadas lineares. Os resultados experi mentais alcançados demonstram melhorias de até 10 pontos percentuais na Acurácia Média e de até 8 pontos na média do Backward Transfer, superando o estado da arte nos conjuntos de dados Split MNIST e Split FashionMNIST. |
| publishDate |
2024 |
| dc.date.issued.fl_str_mv |
2024-03-26 |
| dc.date.accessioned.fl_str_mv |
2026-01-21T14:43:28Z |
| dc.date.available.fl_str_mv |
2026-01-21T14:43:28Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.citation.fl_str_mv |
ALCANTARA, Lucas Augusto Mota de. Aprendizagem Contínua para Classificação de Imagens. 2024. Dissertação (Mestrado em Ciências da Computação) - Universidade Federal de Pernambuco, Recife, 2024. |
| dc.identifier.uri.fl_str_mv |
https://repositorio.ufpe.br/handle/123456789/67767 |
| identifier_str_mv |
ALCANTARA, Lucas Augusto Mota de. Aprendizagem Contínua para Classificação de Imagens. 2024. Dissertação (Mestrado em Ciências da Computação) - Universidade Federal de Pernambuco, Recife, 2024. |
| url |
https://repositorio.ufpe.br/handle/123456789/67767 |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
https://creativecommons.org/licenses/by-nc-nd/4.0/ info:eu-repo/semantics/openAccess |
| rights_invalid_str_mv |
https://creativecommons.org/licenses/by-nc-nd/4.0/ |
| eu_rights_str_mv |
openAccess |
| dc.publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
| dc.publisher.program.fl_str_mv |
Programa de Pos Graduacao em Ciencia da Computacao |
| dc.publisher.initials.fl_str_mv |
UFPE |
| dc.publisher.country.fl_str_mv |
Brasil |
| publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
| dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFPE instname:Universidade Federal de Pernambuco (UFPE) instacron:UFPE |
| instname_str |
Universidade Federal de Pernambuco (UFPE) |
| instacron_str |
UFPE |
| institution |
UFPE |
| reponame_str |
Repositório Institucional da UFPE |
| collection |
Repositório Institucional da UFPE |
| bitstream.url.fl_str_mv |
https://repositorio.ufpe.br/bitstream/123456789/67767/1/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdf https://repositorio.ufpe.br/bitstream/123456789/67767/2/license.txt https://repositorio.ufpe.br/bitstream/123456789/67767/3/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdf.txt https://repositorio.ufpe.br/bitstream/123456789/67767/4/DISSERTA%c3%87%c3%83O%20Lucas%20Augusto%20Mota%20de%20Alcantara.pdf.jpg |
| bitstream.checksum.fl_str_mv |
c8b213ff1b226fb6e48a507e4a4eeef4 5e89a1613ddc8510c6576f4b23a78973 a67ebe954d0c265a742f82d9c03e553c c419c2aea42d0b7c9f812fa07b1000e4 |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE) |
| repository.mail.fl_str_mv |
attena@ufpe.br |
| _version_ |
1866186396336652288 |