Complexity analysis for a third-order algorithm to reach second-order stationarity

Detalhes bibliográficos
Ano de defesa: 2024
Autor(a) principal: Silva, David Ricardo Barreto Lima
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Complexidade
Complexity
Interior-point
Linearly-constraint
Não convexo
Nonconvex
Nonlinear optimization
Otimização não linear
Ponto estacionário
Ponto interior
Restrição linear
Second-order
Segunda ordem
Stationary point
Terceira ordem
Third-order
Link de acesso: https://www.teses.usp.br/teses/disponiveis/45/45132/tde-27092024-163832/
Resumo: We develop a third-order interior-point-trust-region algorithm for nonconvex and non-negative constrained optimization with convergence to a second-order stationary point. Usually, a p-th order derivative p 3 is used only to improve the complexity bounds for finding a first-order stationary point or a p-th order stationary point to within a tolerance. Namely, when only the second-order derivative is considered, the version of our algorithm is known to achieve a second-order stationary point within tolerance > 0 in at most O(^(3)) iterations, while we show that using the third-order derivative, this complexity is improved to O(^(2)). The price to pay for achieving this result is that at each iteration of the algorithm, we solve a cubic ball constrained subproblem, which is considerably harder than its quadratic counterpart.
id USP_692fcc57a0eae106c600cd92e6b1061f
oai_identifier_str oai:teses.usp.br:tde-27092024-163832
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str
spelling Complexity analysis for a third-order algorithm to reach second-order stationarityAnálise de complexidade para um algoritmo de terceira ordem atingir a estacionariedade de segunda ordemComplexidadeComplexityInterior-pointLinearly-constraintNão convexoNonconvexNonlinear optimizationOtimização não linearPonto estacionárioPonto interiorRestrição linearSecond-orderSegunda ordemStationary pointTerceira ordemThird-orderWe develop a third-order interior-point-trust-region algorithm for nonconvex and non-negative constrained optimization with convergence to a second-order stationary point. Usually, a p-th order derivative p 3 is used only to improve the complexity bounds for finding a first-order stationary point or a p-th order stationary point to within a tolerance. Namely, when only the second-order derivative is considered, the version of our algorithm is known to achieve a second-order stationary point within tolerance > 0 in at most O(^(3)) iterations, while we show that using the third-order derivative, this complexity is improved to O(^(2)). The price to pay for achieving this result is that at each iteration of the algorithm, we solve a cubic ball constrained subproblem, which is considerably harder than its quadratic counterpart.Desenvolvemos um algoritmo de região de confiança de ponto interior de terceira ordem para otimização restrita não convexa e não negativa, com convergência para um ponto estacionário de segunda ordem. Normalmente, uma ordem de derivada p, com p 3, é usada apenas para melhorar os limites de complexidade para encontrar um ponto estacionário de primeira ordem ou um ponto estacionário de ordem p dentro de uma tolerância. Ou seja, quando apenas a derivada de segunda ordem é considerada, sabe-se que a versão do nosso algoritmo atinge um ponto estacionário de segunda ordem dentro da tolerância > 0 em no máximo O(^(3)) iterações, enquanto mostramos que usando a terceira derivada de ordem, esta complexidade é melhorada para O(^(2)). O preço a pagar para alcançar este resultado é que, em cada iteração do algoritmo, resolvemos um subproblema restrito por bola cúbica, que é consideravelmente mais difícil do que o seu equivalente quadrático.Biblioteca Digitais de Teses e Dissertações da USPHaeser, GabrielSilva, David Ricardo Barreto Lima2024-07-30info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45132/tde-27092024-163832/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2024-10-14T16:43:02Zoai:teses.usp.br:tde-27092024-163832Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212024-10-14T16:43:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Complexity analysis for a third-order algorithm to reach second-order stationarity
Análise de complexidade para um algoritmo de terceira ordem atingir a estacionariedade de segunda ordem
title Complexity analysis for a third-order algorithm to reach second-order stationarity
spellingShingle Complexity analysis for a third-order algorithm to reach second-order stationarity
Silva, David Ricardo Barreto Lima
Complexidade
Complexity
Interior-point
Linearly-constraint
Não convexo
Nonconvex
Nonlinear optimization
Otimização não linear
Ponto estacionário
Ponto interior
Restrição linear
Second-order
Segunda ordem
Stationary point
Terceira ordem
Third-order
title_short Complexity analysis for a third-order algorithm to reach second-order stationarity
title_full Complexity analysis for a third-order algorithm to reach second-order stationarity
title_fullStr Complexity analysis for a third-order algorithm to reach second-order stationarity
title_full_unstemmed Complexity analysis for a third-order algorithm to reach second-order stationarity
title_sort Complexity analysis for a third-order algorithm to reach second-order stationarity
author Silva, David Ricardo Barreto Lima
author_facet Silva, David Ricardo Barreto Lima
author_role author
dc.contributor.none.fl_str_mv Haeser, Gabriel
dc.contributor.author.fl_str_mv Silva, David Ricardo Barreto Lima
dc.subject.por.fl_str_mv Complexidade
Complexity
Interior-point
Linearly-constraint
Não convexo
Nonconvex
Nonlinear optimization
Otimização não linear
Ponto estacionário
Ponto interior
Restrição linear
Second-order
Segunda ordem
Stationary point
Terceira ordem
Third-order
topic Complexidade
Complexity
Interior-point
Linearly-constraint
Não convexo
Nonconvex
Nonlinear optimization
Otimização não linear
Ponto estacionário
Ponto interior
Restrição linear
Second-order
Segunda ordem
Stationary point
Terceira ordem
Third-order
description We develop a third-order interior-point-trust-region algorithm for nonconvex and non-negative constrained optimization with convergence to a second-order stationary point. Usually, a p-th order derivative p 3 is used only to improve the complexity bounds for finding a first-order stationary point or a p-th order stationary point to within a tolerance. Namely, when only the second-order derivative is considered, the version of our algorithm is known to achieve a second-order stationary point within tolerance > 0 in at most O(^(3)) iterations, while we show that using the third-order derivative, this complexity is improved to O(^(2)). The price to pay for achieving this result is that at each iteration of the algorithm, we solve a cubic ball constrained subproblem, which is considerably harder than its quadratic counterpart.
publishDate 2024
dc.date.none.fl_str_mv 2024-07-30
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/45/45132/tde-27092024-163832/
url https://www.teses.usp.br/teses/disponiveis/45/45132/tde-27092024-163832/
dc.language.iso.fl_str_mv eng
language eng
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1818279237938839552

Registros relacionados