Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico

Detalhes bibliográficos
Ano de defesa: 2021
Autor(a) principal: Nascimento, Thaís Pedruzzi do
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Espírito Santo
BR
Doutorado em Engenharia Elétrica
Centro Tecnológico
UFES
Programa de Pós-Graduação em Engenharia Elétrica
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://repositorio.ufes.br/handle/10/15101
Resumo: Regularized multi-frame super-resolution aims to generate a high-resolution image from several low-resolution images, from the alignment of them and the use of regularization, which weighs noise suppression and edge information restoration. In this context, three approaches are proposed in this thesis, using local information and Demons registration: the hybrid approach, Demons super-resolution, and the patch-based approach. Regarding the hybrid approach, multiple single-layer neural networks were trained by the Regularized Extreme Learning Machine algorithm and implemented jointly with the multi-frame super-resolution methods Bilateral Total Variation (BTV) and Iterative Re-Weighted Super-Resolution (IRWSR), resulting in HyBTV and HyIRWSR, respectively. For Demons super-resolution two methods were proposed: D-BTVIR and D-IRWIR, which combine Demons registration with BTV-based an IRWSR-reconstruction, respectively. And for the patch-based approach (PB), which consists of aligning the patches, scan and super-resolve them individually, three methods were proposed: PB - no classification, PB - smoothness, and PB - variance. For PB - no classification all patches are super-resolved by IRW, which is based on IRWSR. For PB - smoothness, the patches are classified as homogeneous or not, by using smoothness as metrics, and super-resolved via bicubic interpolation, if homogeneous or via IRW, otherwise. PB - variance is based on the same procedure, but considering variance as the homogeneity metric. Experiments were conducted using simulated deformation in 119 images, from Set5, Se14 and B100. PSNR, SSIM and the execution time were analyzed by the use of Friedman, Nemenyi and Wilcoxon hypothesis tests, besides visual analysis. The Wilcoxon tests suggested a better performance of HyBTV over BTV with 99% reliability (p-value = 1.26 × 10−11), and of HyIRWSR over IRWSR (p−value = 3.17 × 10−6), besides better time-quality trade-off of HyBTV over IRWSR, which is, on average, 3.6 times slower than the first one. For the Demons-based approach, the Wilcoxon test suggested better performance of D-BTVIR over BTV with p-value = 3.52 × 10−7, and the same thing was noted considering D-IRWIR over IRWSR, with p-value 2.95×10−8. The Nemenyi test suggested statistical equivalence between D-BTVIR and IRWSR, however, D-BTVIR was 7.2 times faster. Nemenyi test also suggested better performance of the three variations of PB, when compared to BTV and IRWSR, besides statistical equivalence with each other, with PB - variance being the fastest one of them. Finally, the visual analysis supported the results from the hypothesis tests.
id UFES_7a41b9072b7c40558f8c2b09e6916f80
oai_identifier_str oai:repositorio.ufes.br:10/15101
network_acronym_str UFES
network_name_str Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
repository_id_str
spelling Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétricotitle.alternativeSuper-resolução multi-frame regularizadaregistro demonsextreme learning machinesuper-resolução localsubject.br-rjbnEngenharia ElétricaRegularized multi-frame super-resolution aims to generate a high-resolution image from several low-resolution images, from the alignment of them and the use of regularization, which weighs noise suppression and edge information restoration. In this context, three approaches are proposed in this thesis, using local information and Demons registration: the hybrid approach, Demons super-resolution, and the patch-based approach. Regarding the hybrid approach, multiple single-layer neural networks were trained by the Regularized Extreme Learning Machine algorithm and implemented jointly with the multi-frame super-resolution methods Bilateral Total Variation (BTV) and Iterative Re-Weighted Super-Resolution (IRWSR), resulting in HyBTV and HyIRWSR, respectively. For Demons super-resolution two methods were proposed: D-BTVIR and D-IRWIR, which combine Demons registration with BTV-based an IRWSR-reconstruction, respectively. And for the patch-based approach (PB), which consists of aligning the patches, scan and super-resolve them individually, three methods were proposed: PB - no classification, PB - smoothness, and PB - variance. For PB - no classification all patches are super-resolved by IRW, which is based on IRWSR. For PB - smoothness, the patches are classified as homogeneous or not, by using smoothness as metrics, and super-resolved via bicubic interpolation, if homogeneous or via IRW, otherwise. PB - variance is based on the same procedure, but considering variance as the homogeneity metric. Experiments were conducted using simulated deformation in 119 images, from Set5, Se14 and B100. PSNR, SSIM and the execution time were analyzed by the use of Friedman, Nemenyi and Wilcoxon hypothesis tests, besides visual analysis. The Wilcoxon tests suggested a better performance of HyBTV over BTV with 99% reliability (p-value = 1.26 × 10−11), and of HyIRWSR over IRWSR (p−value = 3.17 × 10−6), besides better time-quality trade-off of HyBTV over IRWSR, which is, on average, 3.6 times slower than the first one. For the Demons-based approach, the Wilcoxon test suggested better performance of D-BTVIR over BTV with p-value = 3.52 × 10−7, and the same thing was noted considering D-IRWIR over IRWSR, with p-value 2.95×10−8. The Nemenyi test suggested statistical equivalence between D-BTVIR and IRWSR, however, D-BTVIR was 7.2 times faster. Nemenyi test also suggested better performance of the three variations of PB, when compared to BTV and IRWSR, besides statistical equivalence with each other, with PB - variance being the fastest one of them. Finally, the visual analysis supported the results from the hypothesis tests.A super-resolução multi-frame regularizada tem o objetivo de gerar uma imagem de alta resolução a partir de várias imagens de baixa resolução, pelo alinhamento delas e pela regularização, que ajusta a relação entre supressão de ruído e recuperação de informações de borda. Neste contexto, a partir do uso de informações locais e do registro Demons, três abordagens foram propostas nesta tese: a abordagem híbrida, a super-resolução com registro Demons e a abordagem baseada em patches. Para a abordagem híbrida, foram aplicadas múltiplas redes neurais de uma camada oculta, treinadas pelo algoritmo Regularized Extreme Learning Machine, em conjunto com os métodos de super-resolução multi-frame Bilateral Total Variation (BTV) e do Iterative Re-Weighted Super-Resolution (IRWSR), derivando nos métodos HyBTV e HyRWSR, respectivamente. Para a super-resolução com registro Demons, dois métodos foram propostos: o D-BTVIR e o D-IRWIR, que combinam o registro Demons com reconstrução baseada no BTV e IRWSR, respectivamente. Para a abordagem baseada em patches (PB, patch-based), que consiste em alinhar os patches, aplicar uma varredura e reconstruí-los individualmente, foram propostos três métodos: PB - sem classificação, PB - suavidade e PB - variância. No PB - sem classificação, todos os patches são super-resolvidos pelo método IRW, baseado no IRWSR. Para o PB - suavidade, os patches são classificados como homogêneos ou não, de acordo com a métrica “suavidade”, e super-resolvidos pela interpolação bicúbica, se homogêneos, e pelo IRW, caso contrário. Para o PB - variância, o mesmo é feito, mas considerando a variância como métrica de homogeneidade. Foram feitos experimentos utilizando deformação simulada em 119 imagens, dos conjuntos Set5, Set14 e B100. As métricas PSNR, SSIM e o tempo de processamento foram analisados, empregando os testes de hipótese de Friedman, Nemenyi e Wilcoxon, além de análises por inspeção visual. O teste de Wilcoxon apontou melhor desempenho do HyBTV sobre o BTV com confiabilidade de 99% (valor-p = 1, 26 × 10−11), e do HyIRWSR sobre o IRWSR (valor-p = 3, 17 × 10−6), além de melhor relação de tempo de processamento e qualidade do HyBTV sobre o IRWSR, que é, em média, 3,6 vezes mais lento. Para a abordagem baseada no Demons, o teste de Wilcoxon apontou melhor desempenho do D-BTVIR sobre o BTV com valor-p = 3, 52 × 10−7, e do D-IRWIR sobre o IRWSR com valor-p = 2, 95 × 10−8. O teste de Nemenyi apontou equivalência estatística entre o D-BTVIR e o IRWSR, mas o D-BTVIR se mostrou, em média, 7, 2 vezes mais rápido. O teste de Nemenyi apontou melhor desempenho das três variações do método PB, comparadas ao BTV e IRWSR, além de equivalência estatísticas entre os três, com vantagem do PB - variância em relação ao tempo de processamento. Por fim, as análises por inspeção visual corroboraram os resultados dos testes de hipótese.Fundação Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)Universidade Federal do Espírito SantoBRDoutorado em Engenharia ElétricaCentro TecnológicoUFESPrograma de Pós-Graduação em Engenharia ElétricaSalles, Evandro Ottoni Teatinihttps://orcid.org/0000000282873045http://lattes.cnpq.br/5893731382102675https://orcid.org/0000000239628941http://lattes.cnpq.br/8698168347146036Andreão, Rodrigo Varejãohttps://orcid.org/0000000268005700http://lattes.cnpq.br/5589662366089944Ciarelli, Patrick Marqueshttps://orcid.org/0000000331774028http://lattes.cnpq.br/1267950518719423Pedrini, Héliohttps://orcid.org/0000-0003-0125-630Xhttp://lattes.cnpq.br/9600140904712115Montalvão Filho, Jugurta Rosahttps://orcid.org/0000-0002-6659-6439http://lattes.cnpq.br/4582408199121884Nascimento, Thaís Pedruzzi do2024-05-30T00:49:57Z2024-05-30T00:49:57Z2021-05-17info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisTextapplication/pdfhttp://repositorio.ufes.br/handle/10/15101porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)instname:Universidade Federal do Espírito Santo (UFES)instacron:UFES2025-04-03T09:50:43Zoai:repositorio.ufes.br:10/15101Repositório InstitucionalPUBhttp://repositorio.ufes.br/oai/requestriufes@ufes.bropendoar:21082025-04-03T09:50:43Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES)false
dc.title.none.fl_str_mv Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
title.alternative
title Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
spellingShingle Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
Nascimento, Thaís Pedruzzi do
Super-resolução multi-frame regularizada
registro demons
extreme learning machine
super-resolução local
subject.br-rjbn
Engenharia Elétrica
title_short Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
title_full Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
title_fullStr Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
title_full_unstemmed Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
title_sort Contribuições em Super-Resolução Multi-Frame Bayesiana Utilizando Informação Local e Registro Não Paramétrico
author Nascimento, Thaís Pedruzzi do
author_facet Nascimento, Thaís Pedruzzi do
author_role author
dc.contributor.none.fl_str_mv Salles, Evandro Ottoni Teatini
https://orcid.org/0000000282873045
http://lattes.cnpq.br/5893731382102675
https://orcid.org/0000000239628941
http://lattes.cnpq.br/8698168347146036
Andreão, Rodrigo Varejão
https://orcid.org/0000000268005700
http://lattes.cnpq.br/5589662366089944
Ciarelli, Patrick Marques
https://orcid.org/0000000331774028
http://lattes.cnpq.br/1267950518719423
Pedrini, Hélio
https://orcid.org/0000-0003-0125-630X
http://lattes.cnpq.br/9600140904712115
Montalvão Filho, Jugurta Rosa
https://orcid.org/0000-0002-6659-6439
http://lattes.cnpq.br/4582408199121884
dc.contributor.author.fl_str_mv Nascimento, Thaís Pedruzzi do
dc.subject.por.fl_str_mv Super-resolução multi-frame regularizada
registro demons
extreme learning machine
super-resolução local
subject.br-rjbn
Engenharia Elétrica
topic Super-resolução multi-frame regularizada
registro demons
extreme learning machine
super-resolução local
subject.br-rjbn
Engenharia Elétrica
description Regularized multi-frame super-resolution aims to generate a high-resolution image from several low-resolution images, from the alignment of them and the use of regularization, which weighs noise suppression and edge information restoration. In this context, three approaches are proposed in this thesis, using local information and Demons registration: the hybrid approach, Demons super-resolution, and the patch-based approach. Regarding the hybrid approach, multiple single-layer neural networks were trained by the Regularized Extreme Learning Machine algorithm and implemented jointly with the multi-frame super-resolution methods Bilateral Total Variation (BTV) and Iterative Re-Weighted Super-Resolution (IRWSR), resulting in HyBTV and HyIRWSR, respectively. For Demons super-resolution two methods were proposed: D-BTVIR and D-IRWIR, which combine Demons registration with BTV-based an IRWSR-reconstruction, respectively. And for the patch-based approach (PB), which consists of aligning the patches, scan and super-resolve them individually, three methods were proposed: PB - no classification, PB - smoothness, and PB - variance. For PB - no classification all patches are super-resolved by IRW, which is based on IRWSR. For PB - smoothness, the patches are classified as homogeneous or not, by using smoothness as metrics, and super-resolved via bicubic interpolation, if homogeneous or via IRW, otherwise. PB - variance is based on the same procedure, but considering variance as the homogeneity metric. Experiments were conducted using simulated deformation in 119 images, from Set5, Se14 and B100. PSNR, SSIM and the execution time were analyzed by the use of Friedman, Nemenyi and Wilcoxon hypothesis tests, besides visual analysis. The Wilcoxon tests suggested a better performance of HyBTV over BTV with 99% reliability (p-value = 1.26 × 10−11), and of HyIRWSR over IRWSR (p−value = 3.17 × 10−6), besides better time-quality trade-off of HyBTV over IRWSR, which is, on average, 3.6 times slower than the first one. For the Demons-based approach, the Wilcoxon test suggested better performance of D-BTVIR over BTV with p-value = 3.52 × 10−7, and the same thing was noted considering D-IRWIR over IRWSR, with p-value 2.95×10−8. The Nemenyi test suggested statistical equivalence between D-BTVIR and IRWSR, however, D-BTVIR was 7.2 times faster. Nemenyi test also suggested better performance of the three variations of PB, when compared to BTV and IRWSR, besides statistical equivalence with each other, with PB - variance being the fastest one of them. Finally, the visual analysis supported the results from the hypothesis tests.
publishDate 2021
dc.date.none.fl_str_mv 2021-05-17
2024-05-30T00:49:57Z
2024-05-30T00:49:57Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://repositorio.ufes.br/handle/10/15101
url http://repositorio.ufes.br/handle/10/15101
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv Text
application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Espírito Santo
BR
Doutorado em Engenharia Elétrica
Centro Tecnológico
UFES
Programa de Pós-Graduação em Engenharia Elétrica
publisher.none.fl_str_mv Universidade Federal do Espírito Santo
BR
Doutorado em Engenharia Elétrica
Centro Tecnológico
UFES
Programa de Pós-Graduação em Engenharia Elétrica
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
instname:Universidade Federal do Espírito Santo (UFES)
instacron:UFES
instname_str Universidade Federal do Espírito Santo (UFES)
instacron_str UFES
institution UFES
reponame_str Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
collection Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
repository.name.fl_str_mv Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES)
repository.mail.fl_str_mv riufes@ufes.br
_version_ 1834479084938199040