MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search
| Ano de defesa: | 2022 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
[s.n.]
|
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | https://hdl.handle.net/20.500.12733/14259 |
Resumo: | Orientadores: Edson Borin, Vanderson Martins do Rosario |
| id |
UNICAMP-30_a55c38ec5cd7b691d124250893aa1223 |
|---|---|
| oai_identifier_str |
oai::1371284 |
| network_acronym_str |
UNICAMP-30 |
| network_name_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
| repository_id_str |
|
| spelling |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture searchMOPC-DARTS : a multi-objective neural architecture search frameworkAprendizado de máquinaBusca de arquitetura neural (Aprendizado de máquina)Machine learningNeural architecture search (Machine learning)Orientadores: Edson Borin, Vanderson Martins do RosarioDissertação (mestrado) - Universidade Estadual de Campinas, Instituto de ComputaçãoResumo: Neural Architecture Search (NAS) é uma técnica para buscar automaticamente modelos de redes neurais profundas para resolver um determinado problema. Técnicas tradicionais de NAS geralmente têm como objetivo de busca a acurácia desses modelos, e portanto não consideram seu custo computacional no processo de otimização. Uma vez que o custo computacional está diretamente ligado ao consumo energético das redes neurais, existe um interesse em diminuir o custo computacional dos modelos para torná-los energeticamente mais sustentáveis. A partir desse desafio, este estudo propõe expandir a função objetivo do framework de NAS intitulado Partially Connected Differentiable Architecture Search (PC-DARTS), criando-se um novo framework a partir dele. Esse novo framework, intitulado Multi-Objective PC-DARTS (MOPC-DARTS), permite que o usuário explore por meio de um hiper-parâmetro w o balanceamento entre acurácia e custo computacional. Considerando a fronteira Pareto para a otimização multi-objetivo realizada, apenas 10,53% dos modelos produzidos pelo PC-DARTS ultrapassaram a fronteira dos experimentos com o MOPC-DARTS, enquanto 46,07% dos modelos produzidos pelo MOPC-DARTS ultrapassaram a fronteira dos experimentos com o PC-DARTS. Além disso, mais de 78% dos modelos que definem a fronteira Pareto global foram produzidos pelo MOPC-DARTS. Dessa forma, o MOPC-DARTS se mostra como uma alternativa em NAS para construir modelos energeticamente sustentáveisAbstract: Neural Architecture Search (NAS) techniques allow searching deep neural network models automatically to solve specific problems. These techniques usually consider accuracy as the main search objective, but not the computational cost of the searched models. Since computational cost is directly tied to energy consumption, NAS techniques could benefit from computational cost reduction to generate energetically sustainable deep learning models. To reach this goal, we extend the Partially Connected Differentiable Architecture Search (PC-DARTS), a single objective NAS framework, to employ a new multi-objective function. The resulting framework was named Multi-Objective PC-DARTS (MOPC-DARTS), and it allows tradeoff exploration between accuracy and computational cost, which is achieved by tweaking an hyper-parameter w. Whereas only 10.53% of the models produced by PC-DARTS crossed the Pareto frontier established by the MOPC-DARTS models, 46,07% of the MOPC-DARTS models were able to cross the respective PC-DARTS frontier. Moreover, considering the global Pareto frontier defined by every experiment by both frameworks, only 21.5% of these experiments were generated through PC-DARTS. Therefore, MOPC-DARTS appears to be a good NAS alternative for generating energetically sustainable deep learning modelsMestradoCiência da ComputaçãoMestre em Ciência da ComputaçãoCAPES001[s.n.]Borin, Edson, 1979-Rosario, Vanderson Martins do, 1993-Von Zuben, Fernando JoséRaimundo, Marcos MedeirosUniversidade Estadual de Campinas. Instituto de ComputaçãoPrograma de Pós-Graduação em Ciência da ComputaçãoUNIVERSIDADE ESTADUAL DE CAMPINASSanchez, Rafael Cortez, 1987-20222022-08-18T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdf1 recurso online (77 p.) : il., digital, arquivo PDF.https://hdl.handle.net/20.500.12733/14259SANCHEZ, Rafael Cortez. MOPC-DARTS: um framework para otimização multi-objetivo aplicado a neural architecture search. 2022. 1 recurso online (77 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/14259. Acesso em: 15 mai. 2024.https://repositorio.unicamp.br/acervo/detalhe/1371284Requisitos do sistema: Software para leitura de arquivo em PDFporreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2023-12-05T16:28:46Zoai::1371284Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2023-12-05T16:28:46Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false |
| dc.title.none.fl_str_mv |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search MOPC-DARTS : a multi-objective neural architecture search framework |
| title |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| spellingShingle |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search Sanchez, Rafael Cortez, 1987- Aprendizado de máquina Busca de arquitetura neural (Aprendizado de máquina) Machine learning Neural architecture search (Machine learning) |
| title_short |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| title_full |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| title_fullStr |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| title_full_unstemmed |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| title_sort |
MOPC-DARTS : um framework para otimização multi-objetivo aplicado a neural architecture search |
| author |
Sanchez, Rafael Cortez, 1987- |
| author_facet |
Sanchez, Rafael Cortez, 1987- |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
Borin, Edson, 1979- Rosario, Vanderson Martins do, 1993- Von Zuben, Fernando José Raimundo, Marcos Medeiros Universidade Estadual de Campinas. Instituto de Computação Programa de Pós-Graduação em Ciência da Computação UNIVERSIDADE ESTADUAL DE CAMPINAS |
| dc.contributor.author.fl_str_mv |
Sanchez, Rafael Cortez, 1987- |
| dc.subject.por.fl_str_mv |
Aprendizado de máquina Busca de arquitetura neural (Aprendizado de máquina) Machine learning Neural architecture search (Machine learning) |
| topic |
Aprendizado de máquina Busca de arquitetura neural (Aprendizado de máquina) Machine learning Neural architecture search (Machine learning) |
| description |
Orientadores: Edson Borin, Vanderson Martins do Rosario |
| publishDate |
2022 |
| dc.date.none.fl_str_mv |
2022 2022-08-18T00:00:00Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://hdl.handle.net/20.500.12733/14259 SANCHEZ, Rafael Cortez. MOPC-DARTS: um framework para otimização multi-objetivo aplicado a neural architecture search. 2022. 1 recurso online (77 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/14259. Acesso em: 15 mai. 2024. |
| url |
https://hdl.handle.net/20.500.12733/14259 |
| identifier_str_mv |
SANCHEZ, Rafael Cortez. MOPC-DARTS: um framework para otimização multi-objetivo aplicado a neural architecture search. 2022. 1 recurso online (77 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/14259. Acesso em: 15 mai. 2024. |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.relation.none.fl_str_mv |
https://repositorio.unicamp.br/acervo/detalhe/1371284 Requisitos do sistema: Software para leitura de arquivo em PDF |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
application/pdf 1 recurso online (77 p.) : il., digital, arquivo PDF. |
| dc.publisher.none.fl_str_mv |
[s.n.] |
| publisher.none.fl_str_mv |
[s.n.] |
| dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) instname:Universidade Estadual de Campinas (UNICAMP) instacron:UNICAMP |
| instname_str |
Universidade Estadual de Campinas (UNICAMP) |
| instacron_str |
UNICAMP |
| institution |
UNICAMP |
| reponame_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
| collection |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
| repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP) |
| repository.mail.fl_str_mv |
sbubd@unicamp.br |
| _version_ |
1799140019156287488 |