Automatic algorithm configuration : methods and applications

Detalhes bibliográficos
Ano de defesa: 2022
Autor(a) principal: Souza, Marcelo de
Orientador(a): Ritt, Marcus Rolf Peter
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Não Informado pela instituição
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Palavras-chave em Inglês:
Link de acesso: http://hdl.handle.net/10183/236350
Resumo: O desempenho de algoritmos está geralmente associado aos valores dos seus parâ metros. Portanto, a configuração do algoritmo desempenha um papel fundamental ao projetar ou adaptar algoritmos para um dado domínio. Métodos de configuração automática de algoritmos automatizam esse processo, reduzindo o esforço humano e potenciais vieses envolvidos em abordagens de configuração manuais. Um campo de pesquisa mais geral e ambicioso, chamado projeto automático de algoritmos, aplica métodos de configuração automática para selecionar, combinar e calibrar compo nentes algorítmicos, produzindo algoritmos de alta qualidade automaticamente para diferentes problemas. Apesar da crescente atenção e substancial progresso feito nos últimos anos, ainda existem possibilidades de pesquisa em aberto relacionadas ao en tendimento, melhoria e exploração de métodos de projeto e configuração automáticos de algoritmos. Este trabalho apresenta um estudo abrangente sobre configuração automática de algoritmos com as seguintes contribuições. Primeiro, melhora-se a eficiência da configuração automática de algoritmos de otimização. Em particular, são propostos métodos de poda que usam execuções prévias para construir um envelope de desempe nho, o qual é usado para identificar execuções de baixo desempenho e interrompê-las antecipadamente. Esses métodos reduzem consideravelmente o tempo de configuração sem perda de qualidade. Segundo, melhora-se a qualidade da configuração automática de algoritmos explorando modelos de regressão de parâmetros. Em vez de buscar por valores de parâmetros, são calibrados modelos que determinam esses valores de acordo com o tamanho da instância a ser resolvida, levando a um ganho expressivo no desempenho dos algoritmos quando comparado ao uso de configurações fixas. Terceiro, este trabalho disponibiliza uma ferramenta de visualização para analisar e entender o processo de configuração automática de algoritmos. As visualizações permitem identificar diferentes tipos de falhas e melhorar cenários de configuração. Finalmente, este trabalho propõe um solver heurístico baseado em componentes para a classe geral de problemas binários de otimização. Esse solver implementa um conjunto de componentes heurísticos que podem ser selecionados e combinados para a produção de algoritmos completos. Dado um problema, métodos de configuração automática exploram esse espaço de componentes e buscam pelo melhor algoritmo heurístico. Foram produzidos novos algoritmos no estado-da-arte para diferentes problemas binários usando esse solver.
id URGS_69c9f8aec90e6a26d0aa7a660f3a86b6
oai_identifier_str oai:www.lume.ufrgs.br:10183/236350
network_acronym_str URGS
network_name_str Biblioteca Digital de Teses e Dissertações da UFRGS
repository_id_str
spelling Souza, Marcelo deRitt, Marcus Rolf Peter2022-03-29T04:36:00Z2022http://hdl.handle.net/10183/236350001138869O desempenho de algoritmos está geralmente associado aos valores dos seus parâ metros. Portanto, a configuração do algoritmo desempenha um papel fundamental ao projetar ou adaptar algoritmos para um dado domínio. Métodos de configuração automática de algoritmos automatizam esse processo, reduzindo o esforço humano e potenciais vieses envolvidos em abordagens de configuração manuais. Um campo de pesquisa mais geral e ambicioso, chamado projeto automático de algoritmos, aplica métodos de configuração automática para selecionar, combinar e calibrar compo nentes algorítmicos, produzindo algoritmos de alta qualidade automaticamente para diferentes problemas. Apesar da crescente atenção e substancial progresso feito nos últimos anos, ainda existem possibilidades de pesquisa em aberto relacionadas ao en tendimento, melhoria e exploração de métodos de projeto e configuração automáticos de algoritmos. Este trabalho apresenta um estudo abrangente sobre configuração automática de algoritmos com as seguintes contribuições. Primeiro, melhora-se a eficiência da configuração automática de algoritmos de otimização. Em particular, são propostos métodos de poda que usam execuções prévias para construir um envelope de desempe nho, o qual é usado para identificar execuções de baixo desempenho e interrompê-las antecipadamente. Esses métodos reduzem consideravelmente o tempo de configuração sem perda de qualidade. Segundo, melhora-se a qualidade da configuração automática de algoritmos explorando modelos de regressão de parâmetros. Em vez de buscar por valores de parâmetros, são calibrados modelos que determinam esses valores de acordo com o tamanho da instância a ser resolvida, levando a um ganho expressivo no desempenho dos algoritmos quando comparado ao uso de configurações fixas. Terceiro, este trabalho disponibiliza uma ferramenta de visualização para analisar e entender o processo de configuração automática de algoritmos. As visualizações permitem identificar diferentes tipos de falhas e melhorar cenários de configuração. Finalmente, este trabalho propõe um solver heurístico baseado em componentes para a classe geral de problemas binários de otimização. Esse solver implementa um conjunto de componentes heurísticos que podem ser selecionados e combinados para a produção de algoritmos completos. Dado um problema, métodos de configuração automática exploram esse espaço de componentes e buscam pelo melhor algoritmo heurístico. Foram produzidos novos algoritmos no estado-da-arte para diferentes problemas binários usando esse solver.The performance of algorithms is often highly sensitive to the values of their pa rameters. Therefore, algorithm configuration plays a pivotal role when designing or adapting algorithms for a given problem domain. Automatic algorithm configuration methods automate this process, reducing human effort and potential biases involved in error-prone manual configuration approaches. A more general and ambitious research field, called automatic algorithm design, applies automatic configuration methods to select, combine and calibrate algorithm components, producing high quality algorithms automatically for different problem domains. Despite the growing attention and substantial progress made in the last years, there are still open research directions on understanding, improving and exploring methods for the automatic design and configuration of algorithms. We present a comprehensive study on automatic algorithm configuration with the fol lowing contributions. First, we improve the efficiency of the automatic configuration of optimization algorithms. In particular, we propose a set of capping methods that use previous executions to build a performance envelope, which is used to identify poor-performing executions and stop them early. These methods considerably reduce the configuration time without loss of quality. Second, we improve the quality of automatic algorithm configuration by exploring parameter regression models. In stead of searching for parameter values, we calibrate models that set these values according to the instance size of the instance being solved, leading to expressive gains in algorithm performance when compared to using fixed configurations. Third, we provide a visualization tool to analyze and understand the automatic algorithm configuration process. The visualizations allow to identify different types of flaws and improve configuration scenarios. Finally, we propose a component-wise heuristic solver for a general class of binary optimization problems. This solver implements a set of heuristic components that can be selected and combined to produce complete algorithms. Given a problem, automatic configuration methods explore this design space and search for the best heuristic algorithm. We automatically produce new state-of-the-art algorithms for different binary problems using this solver.application/pdfengAlgoritmosConfiguração automática de algoritmosAutomatic algorithm configuration.Automatic algorithm designParameter tuningCapping methodsParameter regression modelsUnconstrained binary quadratic programmingAutomatic algorithm configuration : methods and applicationsConfiguração automática de algoritmos: métodos e aplicações info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisUniversidade Federal do Rio Grande do SulInstituto de InformáticaPrograma de Pós-Graduação em ComputaçãoPorto Alegre, BR-RS2022doutoradoinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSTEXT001138869.pdf.txt001138869.pdf.txtExtracted Texttext/plain440026http://www.lume.ufrgs.br/bitstream/10183/236350/2/001138869.pdf.txt577bdb29bce39259bc8600ea9423c3bfMD52ORIGINAL001138869.pdfTexto completo (inglês)application/pdf2397495http://www.lume.ufrgs.br/bitstream/10183/236350/1/001138869.pdf3c00e5c3254a6ca63f965c6d8a2187d2MD5110183/2363502025-07-30 07:59:05.039724oai:www.lume.ufrgs.br:10183/236350Biblioteca Digital de Teses e Dissertaçõeshttps://lume.ufrgs.br/handle/10183/2PUBhttps://lume.ufrgs.br/oai/requestlume@ufrgs.br || lume@ufrgs.bropendoar:18532025-07-30T10:59:05Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false
dc.title.pt_BR.fl_str_mv Automatic algorithm configuration : methods and applications
dc.title.alternative.pt.fl_str_mv Configuração automática de algoritmos: métodos e aplicações
title Automatic algorithm configuration : methods and applications
spellingShingle Automatic algorithm configuration : methods and applications
Souza, Marcelo de
Algoritmos
Configuração automática de algoritmos
Automatic algorithm configuration.
Automatic algorithm design
Parameter tuning
Capping methods
Parameter regression models
Unconstrained binary quadratic programming
title_short Automatic algorithm configuration : methods and applications
title_full Automatic algorithm configuration : methods and applications
title_fullStr Automatic algorithm configuration : methods and applications
title_full_unstemmed Automatic algorithm configuration : methods and applications
title_sort Automatic algorithm configuration : methods and applications
author Souza, Marcelo de
author_facet Souza, Marcelo de
author_role author
dc.contributor.author.fl_str_mv Souza, Marcelo de
dc.contributor.advisor1.fl_str_mv Ritt, Marcus Rolf Peter
contributor_str_mv Ritt, Marcus Rolf Peter
dc.subject.por.fl_str_mv Algoritmos
Configuração automática de algoritmos
topic Algoritmos
Configuração automática de algoritmos
Automatic algorithm configuration.
Automatic algorithm design
Parameter tuning
Capping methods
Parameter regression models
Unconstrained binary quadratic programming
dc.subject.eng.fl_str_mv Automatic algorithm configuration.
Automatic algorithm design
Parameter tuning
Capping methods
Parameter regression models
Unconstrained binary quadratic programming
description O desempenho de algoritmos está geralmente associado aos valores dos seus parâ metros. Portanto, a configuração do algoritmo desempenha um papel fundamental ao projetar ou adaptar algoritmos para um dado domínio. Métodos de configuração automática de algoritmos automatizam esse processo, reduzindo o esforço humano e potenciais vieses envolvidos em abordagens de configuração manuais. Um campo de pesquisa mais geral e ambicioso, chamado projeto automático de algoritmos, aplica métodos de configuração automática para selecionar, combinar e calibrar compo nentes algorítmicos, produzindo algoritmos de alta qualidade automaticamente para diferentes problemas. Apesar da crescente atenção e substancial progresso feito nos últimos anos, ainda existem possibilidades de pesquisa em aberto relacionadas ao en tendimento, melhoria e exploração de métodos de projeto e configuração automáticos de algoritmos. Este trabalho apresenta um estudo abrangente sobre configuração automática de algoritmos com as seguintes contribuições. Primeiro, melhora-se a eficiência da configuração automática de algoritmos de otimização. Em particular, são propostos métodos de poda que usam execuções prévias para construir um envelope de desempe nho, o qual é usado para identificar execuções de baixo desempenho e interrompê-las antecipadamente. Esses métodos reduzem consideravelmente o tempo de configuração sem perda de qualidade. Segundo, melhora-se a qualidade da configuração automática de algoritmos explorando modelos de regressão de parâmetros. Em vez de buscar por valores de parâmetros, são calibrados modelos que determinam esses valores de acordo com o tamanho da instância a ser resolvida, levando a um ganho expressivo no desempenho dos algoritmos quando comparado ao uso de configurações fixas. Terceiro, este trabalho disponibiliza uma ferramenta de visualização para analisar e entender o processo de configuração automática de algoritmos. As visualizações permitem identificar diferentes tipos de falhas e melhorar cenários de configuração. Finalmente, este trabalho propõe um solver heurístico baseado em componentes para a classe geral de problemas binários de otimização. Esse solver implementa um conjunto de componentes heurísticos que podem ser selecionados e combinados para a produção de algoritmos completos. Dado um problema, métodos de configuração automática exploram esse espaço de componentes e buscam pelo melhor algoritmo heurístico. Foram produzidos novos algoritmos no estado-da-arte para diferentes problemas binários usando esse solver.
publishDate 2022
dc.date.accessioned.fl_str_mv 2022-03-29T04:36:00Z
dc.date.issued.fl_str_mv 2022
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10183/236350
dc.identifier.nrb.pt_BR.fl_str_mv 001138869
url http://hdl.handle.net/10183/236350
identifier_str_mv 001138869
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da UFRGS
instname:Universidade Federal do Rio Grande do Sul (UFRGS)
instacron:UFRGS
instname_str Universidade Federal do Rio Grande do Sul (UFRGS)
instacron_str UFRGS
institution UFRGS
reponame_str Biblioteca Digital de Teses e Dissertações da UFRGS
collection Biblioteca Digital de Teses e Dissertações da UFRGS
bitstream.url.fl_str_mv http://www.lume.ufrgs.br/bitstream/10183/236350/2/001138869.pdf.txt
http://www.lume.ufrgs.br/bitstream/10183/236350/1/001138869.pdf
bitstream.checksum.fl_str_mv 577bdb29bce39259bc8600ea9423c3bf
3c00e5c3254a6ca63f965c6d8a2187d2
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)
repository.mail.fl_str_mv lume@ufrgs.br || lume@ufrgs.br
_version_ 1846255897858277376