Método Fq-G para otimização global de problemas de grande porte

Detalhes bibliográficos
Ano de defesa: 2016
Autor(a) principal: Marluce da Cruz Scarabello
Orientador(a): Fernando Manuel Ramos, Roberto Luiz Galski
Banca de defesa: Haroldo Fraga de Campos Velho, Fabiano Luis de Sousa, Antônio Augusto Chaves, Luís Felipe Cesar da Rocha Bueno
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Instituto Nacional de Pesquisas Espaciais (INPE)
Programa de Pós-Graduação: Programa de Pós-Graduação do INPE em Computação Aplicada
Departamento: Não Informado pela instituição
País: BR
Resumo em Inglês: Recently, global optimization methods based on the concept of the q-gradient vector have been proposed, such as the q-G method, the q-GC method and q-versions of the quasi-Newton methods, a q-analog of the classic steepest descent, conjugate gradient and quasi-Newton algorithms, respectively. Similar to the most gradientbased optimization algorithms that use finite difference gradients, the q-gradientbased methods require at least N + 1 function evaluations per iteration, where N is the dimension of the function to be optimized. This feature implies that their performance quickly deteriorates as the dimensionality of the problem increases. Here we introduce a fast variant of the q-G method. Called the Fq-G method, it is based on the use of simultaneous perturbations to compute an approximation of the q-gradient, an approach that requires only two function evaluations per iteration, regardless the value of N. A remarkable feature of the Fq-G algorithm is that its search process gradually shifts from global in the beginning to local in the end of the optimization procedure. Moreover, gaussian perturbations are used to guarantee the convergence of the Fq-G to the global minimum in a probabilistic sense. The Fq-G method was performed to 27 test functions of N = 1000 variables proposed at the 2008 and 2010 IEEE Congress on Evolutionary Computation (CEC2008 and CEC2010) competitions on large scale global optimization. We compared the performance of the Fq-G method with 14 evolutionary algorithms. Our approach achieved the first or second position depending on the competition and comparison metric applied. Results show the potential of this new method for solving highdimensional global optimization problems.
Link de acesso: http://urlib.net/sid.inpe.br/mtc-m21b/2016/09.15.14.04
Resumo: Recentemente foram propostos métodos de otimização global baseados no conceito de q-gradiente, tais como o método q-G, o método q-GC e os métodos q-quase-Newton que são generalizações, respectivamente, dos algoritmos clássicos do método da máxima descida, método dos gradientes conjugados e métodos quase-Newton. De forma análoga aos métodos baseados em gradiente, os métodos baseados em q-gradiente, de modo geral, necessitam de pelo menos N + 1 avaliações da função objetivo por iteração, onde N é a dimensão do problema a ser otimizado. Devido a esta característica, os métodos baseados em q-gradiente têm o seu desempenho deteriorado com o aumento da dimensionalidade dos problemas. Com o intuito de solucionar problemas de otimização com um grande número de variáveis de decisão, uma versão rápida do método q-G, denominada método Fq-G, é apresentada neste trabalho. Este novo método é baseado no uso de perturbações simultâneas para calcular uma aproximação do vetor q-gradiente, abordagem que exige apenas duas avaliações da função objetivo por iteração, independentemente do valor de N. Assim como nos métodos baseados em q-gradiente, no algoritmo do Fq-G o processo de busca muda gradualmente de global, no início do procedimento iterativo, para local no final. Além disso, são utilizadas perturbações gaussianas para garantir a convergência do método Fq-G para o mínimo global em um sentido probabilístico. O método Fq-G foi aplicado em 27 funções testes com 1000 variáveis de decisão propostas na competição para problemas de otimização de grande porte do IEEE Congress on Evolutionary Computation (CEC) de 2008 e 2010. A comparação foi realizada, no total, com 14 Algoritmos Evolutivos participantes das duas competições, e o Fq-G alcançou o primeiro ou o segundo lugar dependendo da competição e da métrica de comparação utilizada. Os resultados apontam para o potencial deste novo método na resolução de problemas de otimização de alta dimensionalidade.
id INPE_620b9afcdfd8ddb353958b911ee83159
oai_identifier_str oai:urlib.net:sid.inpe.br/mtc-m21b/2016/09.15.14.04.12-0
network_acronym_str INPE
network_name_str Biblioteca Digital de Teses e Dissertações do INPE
spelling info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisMétodo Fq-G para otimização global de problemas de grande porteThe Fq-G method for large scale global optimization2016-09-01Fernando Manuel RamosRoberto Luiz GalskiHaroldo Fraga de Campos VelhoFabiano Luis de SousaAntônio Augusto ChavesLuís Felipe Cesar da Rocha BuenoMarluce da Cruz ScarabelloInstituto Nacional de Pesquisas Espaciais (INPE)Programa de Pós-Graduação do INPE em Computação AplicadaINPEBRotimização global de grande portecálculo quânticovetor q-gradienteperturbações simultâneasmétodo Fq-Glarge scale global optimizationquantum calculusq-gradient vectorsimultaneous perturbationsFq-G methodRecentemente foram propostos métodos de otimização global baseados no conceito de q-gradiente, tais como o método q-G, o método q-GC e os métodos q-quase-Newton que são generalizações, respectivamente, dos algoritmos clássicos do método da máxima descida, método dos gradientes conjugados e métodos quase-Newton. De forma análoga aos métodos baseados em gradiente, os métodos baseados em q-gradiente, de modo geral, necessitam de pelo menos N + 1 avaliações da função objetivo por iteração, onde N é a dimensão do problema a ser otimizado. Devido a esta característica, os métodos baseados em q-gradiente têm o seu desempenho deteriorado com o aumento da dimensionalidade dos problemas. Com o intuito de solucionar problemas de otimização com um grande número de variáveis de decisão, uma versão rápida do método q-G, denominada método Fq-G, é apresentada neste trabalho. Este novo método é baseado no uso de perturbações simultâneas para calcular uma aproximação do vetor q-gradiente, abordagem que exige apenas duas avaliações da função objetivo por iteração, independentemente do valor de N. Assim como nos métodos baseados em q-gradiente, no algoritmo do Fq-G o processo de busca muda gradualmente de global, no início do procedimento iterativo, para local no final. Além disso, são utilizadas perturbações gaussianas para garantir a convergência do método Fq-G para o mínimo global em um sentido probabilístico. O método Fq-G foi aplicado em 27 funções testes com 1000 variáveis de decisão propostas na competição para problemas de otimização de grande porte do IEEE Congress on Evolutionary Computation (CEC) de 2008 e 2010. A comparação foi realizada, no total, com 14 Algoritmos Evolutivos participantes das duas competições, e o Fq-G alcançou o primeiro ou o segundo lugar dependendo da competição e da métrica de comparação utilizada. Os resultados apontam para o potencial deste novo método na resolução de problemas de otimização de alta dimensionalidade.Recently, global optimization methods based on the concept of the q-gradient vector have been proposed, such as the q-G method, the q-GC method and q-versions of the quasi-Newton methods, a q-analog of the classic steepest descent, conjugate gradient and quasi-Newton algorithms, respectively. Similar to the most gradientbased optimization algorithms that use finite difference gradients, the q-gradientbased methods require at least N + 1 function evaluations per iteration, where N is the dimension of the function to be optimized. This feature implies that their performance quickly deteriorates as the dimensionality of the problem increases. Here we introduce a fast variant of the q-G method. Called the Fq-G method, it is based on the use of simultaneous perturbations to compute an approximation of the q-gradient, an approach that requires only two function evaluations per iteration, regardless the value of N. A remarkable feature of the Fq-G algorithm is that its search process gradually shifts from global in the beginning to local in the end of the optimization procedure. Moreover, gaussian perturbations are used to guarantee the convergence of the Fq-G to the global minimum in a probabilistic sense. The Fq-G method was performed to 27 test functions of N = 1000 variables proposed at the 2008 and 2010 IEEE Congress on Evolutionary Computation (CEC2008 and CEC2010) competitions on large scale global optimization. We compared the performance of the Fq-G method with 14 evolutionary algorithms. Our approach achieved the first or second position depending on the competition and comparison metric applied. Results show the potential of this new method for solving highdimensional global optimization problems.http://urlib.net/sid.inpe.br/mtc-m21b/2016/09.15.14.04info:eu-repo/semantics/openAccessporreponame:Biblioteca Digital de Teses e Dissertações do INPEinstname:Instituto Nacional de Pesquisas Espaciais (INPE)instacron:INPE2021-07-31T06:55:11Zoai:urlib.net:sid.inpe.br/mtc-m21b/2016/09.15.14.04.12-0Biblioteca Digital de Teses e Dissertaçõeshttp://bibdigital.sid.inpe.br/PUBhttp://bibdigital.sid.inpe.br/col/iconet.com.br/banon/2003/11.21.21.08/doc/oai.cgiopendoar:32772021-07-31 06:55:12.736Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE)false
dc.title.pt.fl_str_mv Método Fq-G para otimização global de problemas de grande porte
dc.title.alternative.en.fl_str_mv The Fq-G method for large scale global optimization
title Método Fq-G para otimização global de problemas de grande porte
spellingShingle Método Fq-G para otimização global de problemas de grande porte
Marluce da Cruz Scarabello
title_short Método Fq-G para otimização global de problemas de grande porte
title_full Método Fq-G para otimização global de problemas de grande porte
title_fullStr Método Fq-G para otimização global de problemas de grande porte
title_full_unstemmed Método Fq-G para otimização global de problemas de grande porte
title_sort Método Fq-G para otimização global de problemas de grande porte
author Marluce da Cruz Scarabello
author_facet Marluce da Cruz Scarabello
author_role author
dc.contributor.advisor1.fl_str_mv Fernando Manuel Ramos
dc.contributor.advisor2.fl_str_mv Roberto Luiz Galski
dc.contributor.referee1.fl_str_mv Haroldo Fraga de Campos Velho
dc.contributor.referee2.fl_str_mv Fabiano Luis de Sousa
dc.contributor.referee3.fl_str_mv Antônio Augusto Chaves
dc.contributor.referee4.fl_str_mv Luís Felipe Cesar da Rocha Bueno
dc.contributor.author.fl_str_mv Marluce da Cruz Scarabello
contributor_str_mv Fernando Manuel Ramos
Roberto Luiz Galski
Haroldo Fraga de Campos Velho
Fabiano Luis de Sousa
Antônio Augusto Chaves
Luís Felipe Cesar da Rocha Bueno
dc.description.abstract.por.fl_txt_mv Recentemente foram propostos métodos de otimização global baseados no conceito de q-gradiente, tais como o método q-G, o método q-GC e os métodos q-quase-Newton que são generalizações, respectivamente, dos algoritmos clássicos do método da máxima descida, método dos gradientes conjugados e métodos quase-Newton. De forma análoga aos métodos baseados em gradiente, os métodos baseados em q-gradiente, de modo geral, necessitam de pelo menos N + 1 avaliações da função objetivo por iteração, onde N é a dimensão do problema a ser otimizado. Devido a esta característica, os métodos baseados em q-gradiente têm o seu desempenho deteriorado com o aumento da dimensionalidade dos problemas. Com o intuito de solucionar problemas de otimização com um grande número de variáveis de decisão, uma versão rápida do método q-G, denominada método Fq-G, é apresentada neste trabalho. Este novo método é baseado no uso de perturbações simultâneas para calcular uma aproximação do vetor q-gradiente, abordagem que exige apenas duas avaliações da função objetivo por iteração, independentemente do valor de N. Assim como nos métodos baseados em q-gradiente, no algoritmo do Fq-G o processo de busca muda gradualmente de global, no início do procedimento iterativo, para local no final. Além disso, são utilizadas perturbações gaussianas para garantir a convergência do método Fq-G para o mínimo global em um sentido probabilístico. O método Fq-G foi aplicado em 27 funções testes com 1000 variáveis de decisão propostas na competição para problemas de otimização de grande porte do IEEE Congress on Evolutionary Computation (CEC) de 2008 e 2010. A comparação foi realizada, no total, com 14 Algoritmos Evolutivos participantes das duas competições, e o Fq-G alcançou o primeiro ou o segundo lugar dependendo da competição e da métrica de comparação utilizada. Os resultados apontam para o potencial deste novo método na resolução de problemas de otimização de alta dimensionalidade.
dc.description.abstract.eng.fl_txt_mv Recently, global optimization methods based on the concept of the q-gradient vector have been proposed, such as the q-G method, the q-GC method and q-versions of the quasi-Newton methods, a q-analog of the classic steepest descent, conjugate gradient and quasi-Newton algorithms, respectively. Similar to the most gradientbased optimization algorithms that use finite difference gradients, the q-gradientbased methods require at least N + 1 function evaluations per iteration, where N is the dimension of the function to be optimized. This feature implies that their performance quickly deteriorates as the dimensionality of the problem increases. Here we introduce a fast variant of the q-G method. Called the Fq-G method, it is based on the use of simultaneous perturbations to compute an approximation of the q-gradient, an approach that requires only two function evaluations per iteration, regardless the value of N. A remarkable feature of the Fq-G algorithm is that its search process gradually shifts from global in the beginning to local in the end of the optimization procedure. Moreover, gaussian perturbations are used to guarantee the convergence of the Fq-G to the global minimum in a probabilistic sense. The Fq-G method was performed to 27 test functions of N = 1000 variables proposed at the 2008 and 2010 IEEE Congress on Evolutionary Computation (CEC2008 and CEC2010) competitions on large scale global optimization. We compared the performance of the Fq-G method with 14 evolutionary algorithms. Our approach achieved the first or second position depending on the competition and comparison metric applied. Results show the potential of this new method for solving highdimensional global optimization problems.
description Recentemente foram propostos métodos de otimização global baseados no conceito de q-gradiente, tais como o método q-G, o método q-GC e os métodos q-quase-Newton que são generalizações, respectivamente, dos algoritmos clássicos do método da máxima descida, método dos gradientes conjugados e métodos quase-Newton. De forma análoga aos métodos baseados em gradiente, os métodos baseados em q-gradiente, de modo geral, necessitam de pelo menos N + 1 avaliações da função objetivo por iteração, onde N é a dimensão do problema a ser otimizado. Devido a esta característica, os métodos baseados em q-gradiente têm o seu desempenho deteriorado com o aumento da dimensionalidade dos problemas. Com o intuito de solucionar problemas de otimização com um grande número de variáveis de decisão, uma versão rápida do método q-G, denominada método Fq-G, é apresentada neste trabalho. Este novo método é baseado no uso de perturbações simultâneas para calcular uma aproximação do vetor q-gradiente, abordagem que exige apenas duas avaliações da função objetivo por iteração, independentemente do valor de N. Assim como nos métodos baseados em q-gradiente, no algoritmo do Fq-G o processo de busca muda gradualmente de global, no início do procedimento iterativo, para local no final. Além disso, são utilizadas perturbações gaussianas para garantir a convergência do método Fq-G para o mínimo global em um sentido probabilístico. O método Fq-G foi aplicado em 27 funções testes com 1000 variáveis de decisão propostas na competição para problemas de otimização de grande porte do IEEE Congress on Evolutionary Computation (CEC) de 2008 e 2010. A comparação foi realizada, no total, com 14 Algoritmos Evolutivos participantes das duas competições, e o Fq-G alcançou o primeiro ou o segundo lugar dependendo da competição e da métrica de comparação utilizada. Os resultados apontam para o potencial deste novo método na resolução de problemas de otimização de alta dimensionalidade.
publishDate 2016
dc.date.issued.fl_str_mv 2016-09-01
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
status_str publishedVersion
format doctoralThesis
dc.identifier.uri.fl_str_mv http://urlib.net/sid.inpe.br/mtc-m21b/2016/09.15.14.04
url http://urlib.net/sid.inpe.br/mtc-m21b/2016/09.15.14.04
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Instituto Nacional de Pesquisas Espaciais (INPE)
dc.publisher.program.fl_str_mv Programa de Pós-Graduação do INPE em Computação Aplicada
dc.publisher.initials.fl_str_mv INPE
dc.publisher.country.fl_str_mv BR
publisher.none.fl_str_mv Instituto Nacional de Pesquisas Espaciais (INPE)
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações do INPE
instname:Instituto Nacional de Pesquisas Espaciais (INPE)
instacron:INPE
reponame_str Biblioteca Digital de Teses e Dissertações do INPE
collection Biblioteca Digital de Teses e Dissertações do INPE
instname_str Instituto Nacional de Pesquisas Espaciais (INPE)
instacron_str INPE
institution INPE
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE)
repository.mail.fl_str_mv
publisher_program_txtF_mv Programa de Pós-Graduação do INPE em Computação Aplicada
contributor_advisor1_txtF_mv Fernando Manuel Ramos
_version_ 1706805039807332352