Continual knowledge distillation for histopathology

Detalhes bibliográficos
Ano de defesa: 2024
Autor(a) principal: Rodrigues Neto, João Batista
Orientador(a): Ramos, Gabriel de Oliveira
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Universidade do Vale do Rio dos Sinos
Programa de Pós-Graduação: Programa de Pós-Graduação em Computação Aplicada
Departamento: Escola Politécnica
País: Brasil
Palavras-chave em Português:
Aprendizagem contínua
Segmentação
Câncer
Histopatologia
Patologia
Palavras-chave em Inglês:
Continual learning
Segmentation
Cancer
Histopathology
Pathology
Área do conhecimento CNPq:
ACCNPQ::Ciências Exatas e da Terra::Ciência da Computação
Link de acesso: http://repositorio.jesuita.org.br/handle/UNISINOS/13563
Resumo: Com o surgimento da patologia computadorizada, muitos datasets e competições foram publicados para incentivar pesquisadores a desenvolverem soluções que auxiliem nas tarefas da área da patologia. A análise de segmentos histopatológicos, conduzida por patologistas para detectar células cancerígenas ou metástases em imagens de tecido, é uma dessas tarefas, para a qual, visão computacional foi aplicada com sucesso e até superou o desempenho de especialistas. Apesar dos excelentes resultados na literatura, a maioria das abordagens é dependente do dataset usado e carecem de generalização, fazendo com que até os melhores modelos desempenhem mal quando apresentados a tecidos diferentes. Neste trabalho, nós desenvolvemos um novo método de aprendizagem contínua, que alavanca a generalização do modelo nos datasets usando uma destilação melhorada de conhecimento. Verificamos, através de profundos e extensos experimentos em 19 datasets, uma melhoria geral de 15,66% em comparação dos métodos comuns da literatura, e métricas superiores em relação a modelos com total disponibilidade de datasets. Além disso, nosso método foi o único a atingir índices positivos de transferência de conhecimento para frente (FWT) e para trás (BWT), mitigando consideravelmente o efeito de esquecimento catastrófico.
id USIN_dcf5dfc2ea139f9d7f843f7e14ce1cb9
oai_identifier_str oai:www.repositorio.jesuita.org.br:UNISINOS/13563
network_acronym_str USIN
network_name_str Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos)
repository_id_str
spelling 2025-03-20T12:12:04Z2025-03-20T12:12:04Z2024-10-07Submitted by Jeferson Carlos da Veiga Rodrigues (jveigar@unisinos.br) on 2025-03-20T12:12:04Z No. of bitstreams: 1 Joao Batista Rodrigues Neto_.pdf: 3950343 bytes, checksum: 93f6d09ea84e78ba13cf4b2fac9441fb (MD5)Made available in DSpace on 2025-03-20T12:12:04Z (GMT). No. of bitstreams: 1 Joao Batista Rodrigues Neto_.pdf: 3950343 bytes, checksum: 93f6d09ea84e78ba13cf4b2fac9441fb (MD5) Previous issue date: 2024-10-07Com o surgimento da patologia computadorizada, muitos datasets e competições foram publicados para incentivar pesquisadores a desenvolverem soluções que auxiliem nas tarefas da área da patologia. A análise de segmentos histopatológicos, conduzida por patologistas para detectar células cancerígenas ou metástases em imagens de tecido, é uma dessas tarefas, para a qual, visão computacional foi aplicada com sucesso e até superou o desempenho de especialistas. Apesar dos excelentes resultados na literatura, a maioria das abordagens é dependente do dataset usado e carecem de generalização, fazendo com que até os melhores modelos desempenhem mal quando apresentados a tecidos diferentes. Neste trabalho, nós desenvolvemos um novo método de aprendizagem contínua, que alavanca a generalização do modelo nos datasets usando uma destilação melhorada de conhecimento. Verificamos, através de profundos e extensos experimentos em 19 datasets, uma melhoria geral de 15,66% em comparação dos métodos comuns da literatura, e métricas superiores em relação a modelos com total disponibilidade de datasets. Além disso, nosso método foi o único a atingir índices positivos de transferência de conhecimento para frente (FWT) e para trás (BWT), mitigando consideravelmente o efeito de esquecimento catastrófico.With the emergence of computational pathology, many datasets were made public and challenges were published to encourage researches into developing assistant frameworks for pathology tasks. The analysis of histopathological slides, made by pathologists to detect tumorous cells or metastasis in tissue images, is one of such tasks, for which, computer vision had been successfully applied and even outperformed human expert levels. Despite the excellent results in the literature, the majority of approaches are dataset-dependent and lack generalization, making even the best documented models perform poorly when presented with different tissues. In this work, we designed a novel continuous learning method, that leverages the model generalization across datasets using enhanced knowledge distillation. We verified, through deep and extensive experimentation on 19 datasets, an overall improvement of 15,66% in comparison to common literature methods, and superior metrics in relation to models with full dataset availability. Also, our method was the only one to achieve positive forward (FWT) and backward (BWT) knowledge transfer indexes, considerably mitigating the catastrophic forgetting effect.CAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível SuperiorRodrigues Neto, João Batistahttp://lattes.cnpq.br/9283442143612476http://lattes.cnpq.br/9281736089055094Ramos, Gabriel de OliveiraUniversidade do Vale do Rio dos SinosPrograma de Pós-Graduação em Computação AplicadaUnisinosBrasilEscola PolitécnicaContinual knowledge distillation for histopathologyACCNPQ::Ciências Exatas e da Terra::Ciência da ComputaçãoAprendizagem contínuaSegmentaçãoCâncerHistopatologiaPatologiaContinual learningSegmentationCancerHistopathologyPathologyinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttp://repositorio.jesuita.org.br/handle/UNISINOS/13563info:eu-repo/semantics/openAccessengreponame:Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos)instname:Universidade do Vale do Rio dos Sinos (UNISINOS)instacron:UNISINOSLICENSElicense.txtlicense.txttext/plain; charset=utf-82175http://repositorio.jesuita.org.br/bitstream/UNISINOS/13563/2/license.txt320e21f23402402ac4988605e1edd177MD52ORIGINALJoao Batista Rodrigues Neto_.pdfJoao Batista Rodrigues Neto_.pdfapplication/pdf3950343http://repositorio.jesuita.org.br/bitstream/UNISINOS/13563/1/Joao+Batista+Rodrigues+Neto_.pdf93f6d09ea84e78ba13cf4b2fac9441fbMD51UNISINOS/135632025-03-20 10:28:35.063oai:www.repositorio.jesuita.org.br:UNISINOS/13563Ck5PVEE6IENPTE9RVUUgQVFVSSBBIFNVQSBQUsOTUFJJQSBMSUNFTsOHQQoKRXN0YSBsaWNlbsOnYSBkZSBleGVtcGxvIMOpIGZvcm5lY2lkYSBhcGVuYXMgcGFyYSBmaW5zIGluZm9ybWF0aXZvcy4KCkxpY2Vuw6dhIERFIERJU1RSSUJVScOHw4NPIE7Dg08tRVhDTFVTSVZBCgpDb20gYSBhcHJlc2VudGHDp8OjbyBkZXN0YSBsaWNlbsOnYSwgdm9jw6ogKG8gYXV0b3IgKGVzKSBvdSBvIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yKSBjb25jZWRlIMOgIApVbml2ZXJzaWRhZGUgZG8gVmFsZSBkbyBSaW8gZG9zIFNpbm9zIChVTklTSU5PUykgbyBkaXJlaXRvIG7Do28tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsICB0cmFkdXppciAoY29uZm9ybWUgZGVmaW5pZG8gYWJhaXhvKSwgZS9vdSAKZGlzdHJpYnVpciBhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gKGluY2x1aW5kbyBvIHJlc3VtbykgcG9yIHRvZG8gbyBtdW5kbyBubyBmb3JtYXRvIGltcHJlc3NvIGUgZWxldHLDtG5pY28gZSAKZW0gcXVhbHF1ZXIgbWVpbywgaW5jbHVpbmRvIG9zIGZvcm1hdG9zIMOhdWRpbyBvdSB2w61kZW8uCgpWb2PDqiBjb25jb3JkYSBxdWUgYSBTaWdsYSBkZSBVbml2ZXJzaWRhZGUgcG9kZSwgc2VtIGFsdGVyYXIgbyBjb250ZcO6ZG8sIHRyYW5zcG9yIGEgc3VhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbyAKcGFyYSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gcGFyYSBmaW5zIGRlIHByZXNlcnZhw6fDo28uCgpWb2PDqiB0YW1iw6ltIGNvbmNvcmRhIHF1ZSBhIFNpZ2xhIGRlIFVuaXZlcnNpZGFkZSBwb2RlIG1hbnRlciBtYWlzIGRlIHVtYSBjw7NwaWEgYSBzdWEgdGVzZSBvdSAKZGlzc2VydGHDp8OjbyBwYXJhIGZpbnMgZGUgc2VndXJhbsOnYSwgYmFjay11cCBlIHByZXNlcnZhw6fDo28uCgpWb2PDqiBkZWNsYXJhIHF1ZSBhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gw6kgb3JpZ2luYWwgZSBxdWUgdm9jw6ogdGVtIG8gcG9kZXIgZGUgY29uY2VkZXIgb3MgZGlyZWl0b3MgY29udGlkb3MgCm5lc3RhIGxpY2Vuw6dhLiBWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIG8gZGVww7NzaXRvIGRhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gbsOjbywgcXVlIHNlamEgZGUgc2V1IApjb25oZWNpbWVudG8sIGluZnJpbmdlIGRpcmVpdG9zIGF1dG9yYWlzIGRlIG5pbmd1w6ltLgoKQ2FzbyBhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gY29udGVuaGEgbWF0ZXJpYWwgcXVlIHZvY8OqIG7Do28gcG9zc3VpIGEgdGl0dWxhcmlkYWRlIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgdm9jw6ogCmRlY2xhcmEgcXVlIG9idGV2ZSBhIHBlcm1pc3PDo28gaXJyZXN0cml0YSBkbyBkZXRlbnRvciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgcGFyYSBjb25jZWRlciDDoCBTaWdsYSBkZSBVbml2ZXJzaWRhZGUgCm9zIGRpcmVpdG9zIGFwcmVzZW50YWRvcyBuZXN0YSBsaWNlbsOnYSwgZSBxdWUgZXNzZSBtYXRlcmlhbCBkZSBwcm9wcmllZGFkZSBkZSB0ZXJjZWlyb3MgZXN0w6EgY2xhcmFtZW50ZSAKaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3Ugbm8gY29udGXDumRvIGRhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbyBvcmEgZGVwb3NpdGFkYS4KCkNBU08gQSBURVNFIE9VIERJU1NFUlRBw4fDg08gT1JBIERFUE9TSVRBREEgVEVOSEEgU0lETyBSRVNVTFRBRE8gREUgVU0gUEFUUk9Dw41OSU8gT1UgCkFQT0lPIERFIFVNQSBBR8OKTkNJQSBERSBGT01FTlRPIE9VIE9VVFJPIE9SR0FOSVNNTyBRVUUgTsODTyBTRUpBIEEgU0lHTEEgREUgClVOSVZFUlNJREFERSwgVk9Dw4ogREVDTEFSQSBRVUUgUkVTUEVJVE9VIFRPRE9TIEUgUVVBSVNRVUVSIERJUkVJVE9TIERFIFJFVklTw4NPIENPTU8gClRBTULDiU0gQVMgREVNQUlTIE9CUklHQcOHw5VFUyBFWElHSURBUyBQT1IgQ09OVFJBVE8gT1UgQUNPUkRPLgoKQSBTaWdsYSBkZSBVbml2ZXJzaWRhZGUgc2UgY29tcHJvbWV0ZSBhIGlkZW50aWZpY2FyIGNsYXJhbWVudGUgbyBzZXUgbm9tZSAocykgb3UgbyhzKSBub21lKHMpIGRvKHMpIApkZXRlbnRvcihlcykgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbywgZSBuw6NvIGZhcsOhIHF1YWxxdWVyIGFsdGVyYcOnw6NvLCBhbMOpbSBkYXF1ZWxhcyAKY29uY2VkaWRhcyBwb3IgZXN0YSBsaWNlbsOnYS4KBiblioteca Digital de Teses e DissertaçõesPRIhttp://www.repositorio.jesuita.org.br/oai/requestmaicons@unisinos.br ||dspace@unisinos.bropendoar:2025-03-20T13:28:35Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos) - Universidade do Vale do Rio dos Sinos (UNISINOS)false
dc.title.pt_BR.fl_str_mv Continual knowledge distillation for histopathology
title Continual knowledge distillation for histopathology
spellingShingle Continual knowledge distillation for histopathology
Rodrigues Neto, João Batista
ACCNPQ::Ciências Exatas e da Terra::Ciência da Computação
Aprendizagem contínua
Segmentação
Câncer
Histopatologia
Patologia
Continual learning
Segmentation
Cancer
Histopathology
Pathology
title_short Continual knowledge distillation for histopathology
title_full Continual knowledge distillation for histopathology
title_fullStr Continual knowledge distillation for histopathology
title_full_unstemmed Continual knowledge distillation for histopathology
title_sort Continual knowledge distillation for histopathology
author Rodrigues Neto, João Batista
author_facet Rodrigues Neto, João Batista
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9283442143612476
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9281736089055094
dc.contributor.author.fl_str_mv Rodrigues Neto, João Batista
dc.contributor.advisor1.fl_str_mv Ramos, Gabriel de Oliveira
contributor_str_mv Ramos, Gabriel de Oliveira
dc.subject.cnpq.fl_str_mv ACCNPQ::Ciências Exatas e da Terra::Ciência da Computação
topic ACCNPQ::Ciências Exatas e da Terra::Ciência da Computação
Aprendizagem contínua
Segmentação
Câncer
Histopatologia
Patologia
Continual learning
Segmentation
Cancer
Histopathology
Pathology
dc.subject.por.fl_str_mv Aprendizagem contínua
Segmentação
Câncer
Histopatologia
Patologia
dc.subject.eng.fl_str_mv Continual learning
Segmentation
Cancer
Histopathology
Pathology
description Com o surgimento da patologia computadorizada, muitos datasets e competições foram publicados para incentivar pesquisadores a desenvolverem soluções que auxiliem nas tarefas da área da patologia. A análise de segmentos histopatológicos, conduzida por patologistas para detectar células cancerígenas ou metástases em imagens de tecido, é uma dessas tarefas, para a qual, visão computacional foi aplicada com sucesso e até superou o desempenho de especialistas. Apesar dos excelentes resultados na literatura, a maioria das abordagens é dependente do dataset usado e carecem de generalização, fazendo com que até os melhores modelos desempenhem mal quando apresentados a tecidos diferentes. Neste trabalho, nós desenvolvemos um novo método de aprendizagem contínua, que alavanca a generalização do modelo nos datasets usando uma destilação melhorada de conhecimento. Verificamos, através de profundos e extensos experimentos em 19 datasets, uma melhoria geral de 15,66% em comparação dos métodos comuns da literatura, e métricas superiores em relação a modelos com total disponibilidade de datasets. Além disso, nosso método foi o único a atingir índices positivos de transferência de conhecimento para frente (FWT) e para trás (BWT), mitigando consideravelmente o efeito de esquecimento catastrófico.
publishDate 2024
dc.date.issued.fl_str_mv 2024-10-07
dc.date.accessioned.fl_str_mv 2025-03-20T12:12:04Z
dc.date.available.fl_str_mv 2025-03-20T12:12:04Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://repositorio.jesuita.org.br/handle/UNISINOS/13563
url http://repositorio.jesuita.org.br/handle/UNISINOS/13563
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade do Vale do Rio dos Sinos
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Computação Aplicada
dc.publisher.initials.fl_str_mv Unisinos
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Escola Politécnica
publisher.none.fl_str_mv Universidade do Vale do Rio dos Sinos
dc.source.none.fl_str_mv reponame:Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos)
instname:Universidade do Vale do Rio dos Sinos (UNISINOS)
instacron:UNISINOS
instname_str Universidade do Vale do Rio dos Sinos (UNISINOS)
instacron_str UNISINOS
institution UNISINOS
reponame_str Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos)
collection Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos)
bitstream.url.fl_str_mv http://repositorio.jesuita.org.br/bitstream/UNISINOS/13563/2/license.txt
http://repositorio.jesuita.org.br/bitstream/UNISINOS/13563/1/Joao+Batista+Rodrigues+Neto_.pdf
bitstream.checksum.fl_str_mv 320e21f23402402ac4988605e1edd177
93f6d09ea84e78ba13cf4b2fac9441fb
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UNISINOS (RBDU Repositório Digital da Biblioteca da Unisinos) - Universidade do Vale do Rio dos Sinos (UNISINOS)
repository.mail.fl_str_mv maicons@unisinos.br ||dspace@unisinos.br
_version_ 1853242106505592832

Registros relacionados