Avançada análise do uso de novos vetores-alvo em MLPs de alta performance

Detalhes bibliográficos
Ano de defesa: 2012
Autor(a) principal: Manzan, José Ricardo Gonçalves lattes
Orientador(a): Yamanaka, Keiji lattes
Banca de defesa: Pinto, Edmilson Rodrigues lattes, Camilo Júnior, Celso Gonçalves lattes
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Uberlândia
Programa de Pós-Graduação: Programa de Pós-graduação em Engenharia Elétrica
Departamento: Engenharias
País: BR
Palavras-chave em Português:
Palavras-chave em Inglês:
Área do conhecimento CNPq:
Link de acesso: https://repositorio.ufu.br/handle/123456789/14498
Resumo: This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing.
id UFU_57b45d25c89461cb5d1910da131e9fd2
oai_identifier_str oai:repositorio.ufu.br:123456789/14498
network_acronym_str UFU
network_name_str Repositório Institucional da UFU
repository_id_str
spelling 2016-06-22T18:38:46Z2012-11-092016-06-22T18:38:46Z2012-09-27MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012.https://repositorio.ufu.br/handle/123456789/14498This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing.O presente trabalho propõe a análise avançada para a melhoria de desempenho de MLP através do uso de novos vetores-alvo. Primeiramente, por meio de um estudo matemático, avalia-se a influência dos VBOs sobre o treinamento das MLPs quando são utilizados como vetores-alvo. Os VBOs possuem a maior distância euclidiana possível entre si, o que leva a supor que melhora o treinamento e a capacidade de generalização da rede em teste. A hipótese é a de que a provocação de uma maior distância entre os pontos de saída da rede pode ter relação direta com a melhoria na classificação dos padrões. Os diferentes tipos de vetores-alvo tais como VBNs, VBCs e VNOs são utilizados para o treinamento de MLPs e os seus desempenhos são comparados com a rede treinada adotando-se os VBOs. As evidências matemáticas da melhoria de desempenho foram encontradas no refinamento da atualização dos pesos, etapa denominada no algoritmo como retro propagação do erro. Esse refinamento característico do treinamento com VBOs age no sentido de preservar as características de cada padrão, reduzindo o ruído de interferência do treinamento de um padrão para outro. Seguindo-se ao estudo matemático, realiza-se uma análise experimental mais avançada da utilização dos VBOs por meio de duas bases de dados para reconhecimento de padrões. A primeira base de dados é a de dígitos manuscritos para comparar os desempenhos de MLPs treinadas com VBCs e VNOs com aquelas treinadas com VBOs. Os resultados mostraram taxas de classificação superiores para a MLP treinada com VBOs. A segunda base de dados é formada por imagens de íris humana com o propósito de realizar a comparação dos desempenhos de MLPs treinadas com vetores-alvo convencionais e novos vetores-alvo representados pelos VBOs. Além da alta performance nas taxas de reconhecimento das MLPs treinadas com VBOs, observou-se que com o uso desses novos vetores-alvo, é possível obter elevadas taxas de reconhecimento com pouco rigor nas épocas de treinamento, reduzindo-se consequentemente a carga computacional de processamento dos padrões.Coordenação de Aperfeiçoamento de Pessoal de Nível SuperiorMestre em Ciênciasapplication/pdfporUniversidade Federal de UberlândiaPrograma de Pós-graduação em Engenharia ElétricaUFUBREngenhariasEstudo matemáticoReconhecimento de padrõesMultilayer perceptronVetores-alvoVetores bipolares ortogonaisRedes neurais artificiaisVetores - AnáliseMathematical studyPattern recognitionArtificial neural networksMultilayer perceptronTarget vectorsOrthogonal bipolar vectorsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAvançada análise do uso de novos vetores-alvo em MLPs de alta performanceAdvanced analysis of using new target vectors on high performance MLPsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisNomura, Shigueohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4723707A0Yamanaka, Keijihttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4798494D8Pinto, Edmilson Rodrigueshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4775406H8Camilo Júnior, Celso Gonçalveshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4736184D1http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4241519Z5Manzan, José Ricardo Gonçalvesinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFUinstname:Universidade Federal de Uberlândia (UFU)instacron:UFUTHUMBNAILd.pdf.jpgd.pdf.jpgGenerated Thumbnailimage/jpeg1399https://repositorio.ufu.br/bitstream/123456789/14498/3/d.pdf.jpg135faff7e4a573ee2d7a7b8b87155ec1MD53ORIGINALd.pdfapplication/pdf1936524https://repositorio.ufu.br/bitstream/123456789/14498/1/d.pdfc8afa68139ffec3c5d22582111b84c61MD51TEXTd.pdf.txtd.pdf.txtExtracted texttext/plain192153https://repositorio.ufu.br/bitstream/123456789/14498/2/d.pdf.txtab1598bc576b542d516f2af1921b5571MD52123456789/144982016-06-23 03:58:24.511oai:repositorio.ufu.br:123456789/14498Repositório InstitucionalONGhttp://repositorio.ufu.br/oai/requestdiinf@dirbi.ufu.bropendoar:2016-06-23T06:58:24Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)false
dc.title.por.fl_str_mv Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
dc.title.alternative.eng.fl_str_mv Advanced analysis of using new target vectors on high performance MLPs
title Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
spellingShingle Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
Manzan, José Ricardo Gonçalves
Estudo matemático
Reconhecimento de padrões
Multilayer perceptron
Vetores-alvo
Vetores bipolares ortogonais
Redes neurais artificiais
Vetores - Análise
Mathematical study
Pattern recognition
Artificial neural networks
Multilayer perceptron
Target vectors
Orthogonal bipolar vectors
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
title_short Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
title_full Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
title_fullStr Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
title_full_unstemmed Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
title_sort Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
author Manzan, José Ricardo Gonçalves
author_facet Manzan, José Ricardo Gonçalves
author_role author
dc.contributor.advisor-co1.fl_str_mv Nomura, Shigueo
dc.contributor.advisor-co1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4723707A0
dc.contributor.advisor1.fl_str_mv Yamanaka, Keiji
dc.contributor.advisor1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4798494D8
dc.contributor.referee1.fl_str_mv Pinto, Edmilson Rodrigues
dc.contributor.referee1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4775406H8
dc.contributor.referee2.fl_str_mv Camilo Júnior, Celso Gonçalves
dc.contributor.referee2Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4736184D1
dc.contributor.authorLattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4241519Z5
dc.contributor.author.fl_str_mv Manzan, José Ricardo Gonçalves
contributor_str_mv Nomura, Shigueo
Yamanaka, Keiji
Pinto, Edmilson Rodrigues
Camilo Júnior, Celso Gonçalves
dc.subject.por.fl_str_mv Estudo matemático
Reconhecimento de padrões
Multilayer perceptron
Vetores-alvo
Vetores bipolares ortogonais
Redes neurais artificiais
Vetores - Análise
topic Estudo matemático
Reconhecimento de padrões
Multilayer perceptron
Vetores-alvo
Vetores bipolares ortogonais
Redes neurais artificiais
Vetores - Análise
Mathematical study
Pattern recognition
Artificial neural networks
Multilayer perceptron
Target vectors
Orthogonal bipolar vectors
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
dc.subject.eng.fl_str_mv Mathematical study
Pattern recognition
Artificial neural networks
Multilayer perceptron
Target vectors
Orthogonal bipolar vectors
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
description This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing.
publishDate 2012
dc.date.available.fl_str_mv 2012-11-09
2016-06-22T18:38:46Z
dc.date.issued.fl_str_mv 2012-09-27
dc.date.accessioned.fl_str_mv 2016-06-22T18:38:46Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012.
dc.identifier.uri.fl_str_mv https://repositorio.ufu.br/handle/123456789/14498
identifier_str_mv MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012.
url https://repositorio.ufu.br/handle/123456789/14498
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Uberlândia
dc.publisher.program.fl_str_mv Programa de Pós-graduação em Engenharia Elétrica
dc.publisher.initials.fl_str_mv UFU
dc.publisher.country.fl_str_mv BR
dc.publisher.department.fl_str_mv Engenharias
publisher.none.fl_str_mv Universidade Federal de Uberlândia
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFU
instname:Universidade Federal de Uberlândia (UFU)
instacron:UFU
instname_str Universidade Federal de Uberlândia (UFU)
instacron_str UFU
institution UFU
reponame_str Repositório Institucional da UFU
collection Repositório Institucional da UFU
bitstream.url.fl_str_mv https://repositorio.ufu.br/bitstream/123456789/14498/3/d.pdf.jpg
https://repositorio.ufu.br/bitstream/123456789/14498/1/d.pdf
https://repositorio.ufu.br/bitstream/123456789/14498/2/d.pdf.txt
bitstream.checksum.fl_str_mv 135faff7e4a573ee2d7a7b8b87155ec1
c8afa68139ffec3c5d22582111b84c61
ab1598bc576b542d516f2af1921b5571
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)
repository.mail.fl_str_mv diinf@dirbi.ufu.br
_version_ 1792331449484967936