Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais

Detalhes bibliográficos
Ano de defesa: 2023
Autor(a) principal: Leonam Rezende Soares de Miranda
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Minas Gerais
Brasil
ENG - DEPARTAMENTO DE ENGENHARIA ELÉTRICA
Programa de Pós-Graduação em Engenharia Elétrica
UFMG
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://hdl.handle.net/1843/54194
Resumo: In convolutional neural networks, aggregation operations are performed in the convolution, pooling and fully connected dense layers. Promising results have been obtained in recent years when using ordered weighted averaging operators, better known as OWA operators, to aggregate data within convolutional neural networks. There are recent works demonstrating that there is a performance gain when using OWA operators, training their weights, to perform the pooling operation, when compared with the most usual operators (maximum and average). Other studies have shown that OWA operators can be used to learn additional order-based information from the feature maps of a certain layer, and the newly generated information is used to complement or replace the input data for the next layer. The purpose of this dissertation is to analyze and combine the two mentioned ideas. Several tests were done to evaluate the performance change when applying OWA operators to classify images, using the VGG13, Network in Network and AlexNet models and the CIFAR-10 and CIFAR-100 datasets.
id UFMG_695b43e1184c08d78ebd0e59fd8e42cc
oai_identifier_str oai:repositorio.ufmg.br:1843/54194
network_acronym_str UFMG
network_name_str Repositório Institucional da UFMG
repository_id_str
spelling Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionaisRedes neurais convolucionaisOperadores OWAAprendizado profundoFunções de agregaçãoClassificação de imagensEngenharia elétricaRedes neurais convolucionaisAprendizado profundoOtimização multiobjetivoIn convolutional neural networks, aggregation operations are performed in the convolution, pooling and fully connected dense layers. Promising results have been obtained in recent years when using ordered weighted averaging operators, better known as OWA operators, to aggregate data within convolutional neural networks. There are recent works demonstrating that there is a performance gain when using OWA operators, training their weights, to perform the pooling operation, when compared with the most usual operators (maximum and average). Other studies have shown that OWA operators can be used to learn additional order-based information from the feature maps of a certain layer, and the newly generated information is used to complement or replace the input data for the next layer. The purpose of this dissertation is to analyze and combine the two mentioned ideas. Several tests were done to evaluate the performance change when applying OWA operators to classify images, using the VGG13, Network in Network and AlexNet models and the CIFAR-10 and CIFAR-100 datasets.Nas redes neurais convolucionais são realizadas operações de agregação nas camadas de convolução, pooling e nas densas completamente conectadas. Resultados promissores foram obtidos nos últimos anos ao utilizar operadores de agregação do tipo media ponderada ordenada, mais conhecidos como operadores OWA, para agregar dados dentro das redes neurais convolucionais. Há trabalhos recentes demonstrando que há um ganho de performance signiőcativo ao utilizar os operadores OWA, treinando os seus pesos, para realizar a operação de pooling, quando comparado com os operadores mais usuais (máximo e médio). Outros estudos demonstraram que os operadores OWA podem ser utilizados para aprender informações a partir do ordenamento dos canais de uma determinada camada, e as informações recém-geradas são usadas para complementar ou substituir os dados de entrada para a camada seguinte. O objetivo desta dissertação é analisar e combinar as duas ideias mencionadas. Vários testes foram feitos para avaliar a mudança de desempenho ao aplicar operadores OWA para classiőcar imagens, usando os modelos VGG13, Network in Network e AlexNet e os conjuntos de dados CIFAR-10 e CIFAR-100.CNPq - Conselho Nacional de Desenvolvimento Científico e TecnológicoCAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível SuperiorUniversidade Federal de Minas GeraisBrasilENG - DEPARTAMENTO DE ENGENHARIA ELÉTRICAPrograma de Pós-Graduação em Engenharia ElétricaUFMGFrederico Gadelha Guimarãeshttp://lattes.cnpq.br/2472681535872194Janier Arias GarcíaCristiano Leite de CastroLeonam Rezende Soares de Miranda2023-05-30T19:42:26Z2023-05-30T19:42:26Z2023-02-15info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/1843/54194porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFMGinstname:Universidade Federal de Minas Gerais (UFMG)instacron:UFMG2023-05-30T19:42:26Zoai:repositorio.ufmg.br:1843/54194Repositório InstitucionalPUBhttps://repositorio.ufmg.br/oairepositorio@ufmg.bropendoar:2023-05-30T19:42:26Repositório Institucional da UFMG - Universidade Federal de Minas Gerais (UFMG)false
dc.title.none.fl_str_mv Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
title Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
spellingShingle Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
Leonam Rezende Soares de Miranda
Redes neurais convolucionais
Operadores OWA
Aprendizado profundo
Funções de agregação
Classificação de imagens
Engenharia elétrica
Redes neurais convolucionais
Aprendizado profundo
Otimização multiobjetivo
title_short Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
title_full Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
title_fullStr Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
title_full_unstemmed Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
title_sort Aprendizado de operadores de agregação do tipo média ponderada ordenada em redes neurais convolucionais
author Leonam Rezende Soares de Miranda
author_facet Leonam Rezende Soares de Miranda
author_role author
dc.contributor.none.fl_str_mv Frederico Gadelha Guimarães
http://lattes.cnpq.br/2472681535872194
Janier Arias García
Cristiano Leite de Castro
dc.contributor.author.fl_str_mv Leonam Rezende Soares de Miranda
dc.subject.por.fl_str_mv Redes neurais convolucionais
Operadores OWA
Aprendizado profundo
Funções de agregação
Classificação de imagens
Engenharia elétrica
Redes neurais convolucionais
Aprendizado profundo
Otimização multiobjetivo
topic Redes neurais convolucionais
Operadores OWA
Aprendizado profundo
Funções de agregação
Classificação de imagens
Engenharia elétrica
Redes neurais convolucionais
Aprendizado profundo
Otimização multiobjetivo
description In convolutional neural networks, aggregation operations are performed in the convolution, pooling and fully connected dense layers. Promising results have been obtained in recent years when using ordered weighted averaging operators, better known as OWA operators, to aggregate data within convolutional neural networks. There are recent works demonstrating that there is a performance gain when using OWA operators, training their weights, to perform the pooling operation, when compared with the most usual operators (maximum and average). Other studies have shown that OWA operators can be used to learn additional order-based information from the feature maps of a certain layer, and the newly generated information is used to complement or replace the input data for the next layer. The purpose of this dissertation is to analyze and combine the two mentioned ideas. Several tests were done to evaluate the performance change when applying OWA operators to classify images, using the VGG13, Network in Network and AlexNet models and the CIFAR-10 and CIFAR-100 datasets.
publishDate 2023
dc.date.none.fl_str_mv 2023-05-30T19:42:26Z
2023-05-30T19:42:26Z
2023-02-15
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/1843/54194
url http://hdl.handle.net/1843/54194
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Minas Gerais
Brasil
ENG - DEPARTAMENTO DE ENGENHARIA ELÉTRICA
Programa de Pós-Graduação em Engenharia Elétrica
UFMG
publisher.none.fl_str_mv Universidade Federal de Minas Gerais
Brasil
ENG - DEPARTAMENTO DE ENGENHARIA ELÉTRICA
Programa de Pós-Graduação em Engenharia Elétrica
UFMG
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFMG
instname:Universidade Federal de Minas Gerais (UFMG)
instacron:UFMG
instname_str Universidade Federal de Minas Gerais (UFMG)
instacron_str UFMG
institution UFMG
reponame_str Repositório Institucional da UFMG
collection Repositório Institucional da UFMG
repository.name.fl_str_mv Repositório Institucional da UFMG - Universidade Federal de Minas Gerais (UFMG)
repository.mail.fl_str_mv repositorio@ufmg.br
_version_ 1835272974183170048