Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression

Detalhes bibliográficos
Ano de defesa: 2016
Autor(a) principal: Silva, Tatiane Cazarin da
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Paraná
Campo Mourao
Brasil
Programa de Pós-Graduação em Métodos Numéricos em Engenharia
UFPR
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://repositorio.utfpr.edu.br/jspui/handle/1/1852
Resumo: In this work we propose algorithms for solving a fixed-point general primal-dual formulation applied to the Ridge Regression problem. We study the primal formulation for regularized least squares problems, especially L2-norm, named Ridge Regression and then describe convex duality for that class of problems. Our strategy was to consider together primal and dual formulations and minimize the duality gap between them. We established the primal-dual fixed point algorithm, named SRP and a reformulation for this method, the main contribution of the thesis, which was more efficient and robust, called acc-SRP method or accelerated version of the SRP method. The theoretical study of the algorithms was done through the analysis of the spectral properties of the associated iteration matrices. We proved the linear convergence of algorithms and some numerical examples comparing two variants for each algorithm proposed were presented. We also showed that our best method, acc-SRP, has excellent numerical performance for solving very ill-conditioned problems, when compared to the conjugate gradient method, which makes it computationally more attractive.
id UTFPR-12_0b33805b6f1027a2eb6dd91b8adae5cc
oai_identifier_str oai:repositorio.utfpr.edu.br:1/1852
network_acronym_str UTFPR-12
network_name_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository_id_str
spelling Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge RegressionAnálise numéricaAlgorítmosAnálise de regressãoOtimização matemáticaNumerical analysisAlgorithmsRegression analysisMathematical optimizationCNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA::ANALISE NUMERICAIn this work we propose algorithms for solving a fixed-point general primal-dual formulation applied to the Ridge Regression problem. We study the primal formulation for regularized least squares problems, especially L2-norm, named Ridge Regression and then describe convex duality for that class of problems. Our strategy was to consider together primal and dual formulations and minimize the duality gap between them. We established the primal-dual fixed point algorithm, named SRP and a reformulation for this method, the main contribution of the thesis, which was more efficient and robust, called acc-SRP method or accelerated version of the SRP method. The theoretical study of the algorithms was done through the analysis of the spectral properties of the associated iteration matrices. We proved the linear convergence of algorithms and some numerical examples comparing two variants for each algorithm proposed were presented. We also showed that our best method, acc-SRP, has excellent numerical performance for solving very ill-conditioned problems, when compared to the conjugate gradient method, which makes it computationally more attractive.Neste trabalho propomos algoritmos para resolver uma formulação primal-dual geral de ponto fixo aplicada ao problema de Ridge Regression. Estudamos a formulação primal para problemas de quadrados mínimos regularizado, em especial na norma L2, nomeados Ridge Regression e descrevemos a dualidade convexa para essa classe de problemas. Nossa estratégia foi considerar as formulações primal e dual conjuntamente, e minimizar o gap de dualidade entre elas. Estabelecemos o algoritmo de ponto fixo primal-dual, nomeado SRP e uma reformulação para esse método, contribuição principal da tese, a qual mostrou-se mais eficaz e robusta, designada por método acc-SRP, ou versão acelerada do método SRP. O estudo teórico dos algoritmos foi feito por meio da análise de propriedades espectrais das matrizes de iteração associadas. Provamos a convergência linear dos algoritmos e apresentamos alguns exemplos numéricos comparando duas variantes para cada algoritmo proposto. Mostramos também que o nosso melhor método, acc-SRP, possui excelente desempenho numérico na resolução de problemas muito mal-condicionados quando comparado ao Método de Gradientes Conjugados, o que o torna computacionalmente mais atraente.Universidade Federal do ParanáCampo MouraoBrasilPrograma de Pós-Graduação em Métodos Numéricos em EngenhariaUFPRRibeiro, Ademir Alveshttp://lattes.cnpq.br/7837749235554104Periçaro, Gislaine Aparecidahttp://lattes.cnpq.br/1238697490777079Ribeiro, Ademir AlvesSachine, MaelConejo, Paulo DomingosAndreani, RobertoSilva, Tatiane Cazarin da2016-11-28T15:15:45Z2016-11-28T15:15:45Z2016-07-08info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfSILVA, Tatiane Cazarin da. Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression. 2016. 64 f. Tese (Doutorado em Métodos Numéricos em Engenharia) – Universidade Federal do Paraná, Curitiba, 2016.http://repositorio.utfpr.edu.br/jspui/handle/1/1852porhttp://acervodigital.ufpr.br/bitstream/handle/1884/43736/R%20-%20T%20-%20TATIANE%20CAZARIN%20DA%20SILVA.pdf?sequence=1&isAllowed=yinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPR2016-11-29T05:01:11Zoai:repositorio.utfpr.edu.br:1/1852Repositório InstitucionalPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestriut@utfpr.edu.br || sibi@utfpr.edu.bropendoar:2016-11-29T05:01:11Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false
dc.title.none.fl_str_mv Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
title Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
spellingShingle Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
Silva, Tatiane Cazarin da
Análise numérica
Algorítmos
Análise de regressão
Otimização matemática
Numerical analysis
Algorithms
Regression analysis
Mathematical optimization
CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA::ANALISE NUMERICA
title_short Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
title_full Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
title_fullStr Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
title_full_unstemmed Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
title_sort Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression
author Silva, Tatiane Cazarin da
author_facet Silva, Tatiane Cazarin da
author_role author
dc.contributor.none.fl_str_mv Ribeiro, Ademir Alves
http://lattes.cnpq.br/7837749235554104
Periçaro, Gislaine Aparecida
http://lattes.cnpq.br/1238697490777079
Ribeiro, Ademir Alves
Sachine, Mael
Conejo, Paulo Domingos
Andreani, Roberto
dc.contributor.author.fl_str_mv Silva, Tatiane Cazarin da
dc.subject.por.fl_str_mv Análise numérica
Algorítmos
Análise de regressão
Otimização matemática
Numerical analysis
Algorithms
Regression analysis
Mathematical optimization
CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA::ANALISE NUMERICA
topic Análise numérica
Algorítmos
Análise de regressão
Otimização matemática
Numerical analysis
Algorithms
Regression analysis
Mathematical optimization
CNPQ::CIENCIAS EXATAS E DA TERRA::MATEMATICA::MATEMATICA APLICADA::ANALISE NUMERICA
description In this work we propose algorithms for solving a fixed-point general primal-dual formulation applied to the Ridge Regression problem. We study the primal formulation for regularized least squares problems, especially L2-norm, named Ridge Regression and then describe convex duality for that class of problems. Our strategy was to consider together primal and dual formulations and minimize the duality gap between them. We established the primal-dual fixed point algorithm, named SRP and a reformulation for this method, the main contribution of the thesis, which was more efficient and robust, called acc-SRP method or accelerated version of the SRP method. The theoretical study of the algorithms was done through the analysis of the spectral properties of the associated iteration matrices. We proved the linear convergence of algorithms and some numerical examples comparing two variants for each algorithm proposed were presented. We also showed that our best method, acc-SRP, has excellent numerical performance for solving very ill-conditioned problems, when compared to the conjugate gradient method, which makes it computationally more attractive.
publishDate 2016
dc.date.none.fl_str_mv 2016-11-28T15:15:45Z
2016-11-28T15:15:45Z
2016-07-08
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv SILVA, Tatiane Cazarin da. Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression. 2016. 64 f. Tese (Doutorado em Métodos Numéricos em Engenharia) – Universidade Federal do Paraná, Curitiba, 2016.
http://repositorio.utfpr.edu.br/jspui/handle/1/1852
identifier_str_mv SILVA, Tatiane Cazarin da. Algoritmos primais-duais de ponto fixo aplicados ao problema Ridge Regression. 2016. 64 f. Tese (Doutorado em Métodos Numéricos em Engenharia) – Universidade Federal do Paraná, Curitiba, 2016.
url http://repositorio.utfpr.edu.br/jspui/handle/1/1852
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv http://acervodigital.ufpr.br/bitstream/handle/1884/43736/R%20-%20T%20-%20TATIANE%20CAZARIN%20DA%20SILVA.pdf?sequence=1&isAllowed=y
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Paraná
Campo Mourao
Brasil
Programa de Pós-Graduação em Métodos Numéricos em Engenharia
UFPR
publisher.none.fl_str_mv Universidade Federal do Paraná
Campo Mourao
Brasil
Programa de Pós-Graduação em Métodos Numéricos em Engenharia
UFPR
dc.source.none.fl_str_mv reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
instname:Universidade Tecnológica Federal do Paraná (UTFPR)
instacron:UTFPR
instname_str Universidade Tecnológica Federal do Paraná (UTFPR)
instacron_str UTFPR
institution UTFPR
reponame_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
collection Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository.name.fl_str_mv Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)
repository.mail.fl_str_mv riut@utfpr.edu.br || sibi@utfpr.edu.br
_version_ 1850498337944371200