Avançada análise do uso de novos vetores-alvo em MLPs de alta performance
Ano de defesa: | 2012 |
---|---|
Autor(a) principal: | |
Orientador(a): | |
Banca de defesa: | , |
Tipo de documento: | Dissertação |
Tipo de acesso: | Acesso aberto |
Idioma: | por |
Instituição de defesa: |
Universidade Federal de Uberlândia
|
Programa de Pós-Graduação: |
Programa de Pós-graduação em Engenharia Elétrica
|
Departamento: |
Engenharias
|
País: |
BR
|
Palavras-chave em Português: | |
Palavras-chave em Inglês: | |
Área do conhecimento CNPq: | |
Link de acesso: | https://repositorio.ufu.br/handle/123456789/14498 |
Resumo: | This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing. |
id |
UFU_57b45d25c89461cb5d1910da131e9fd2 |
---|---|
oai_identifier_str |
oai:repositorio.ufu.br:123456789/14498 |
network_acronym_str |
UFU |
network_name_str |
Repositório Institucional da UFU |
repository_id_str |
|
spelling |
2016-06-22T18:38:46Z2012-11-092016-06-22T18:38:46Z2012-09-27MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012.https://repositorio.ufu.br/handle/123456789/14498This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing.O presente trabalho propõe a análise avançada para a melhoria de desempenho de MLP através do uso de novos vetores-alvo. Primeiramente, por meio de um estudo matemático, avalia-se a influência dos VBOs sobre o treinamento das MLPs quando são utilizados como vetores-alvo. Os VBOs possuem a maior distância euclidiana possível entre si, o que leva a supor que melhora o treinamento e a capacidade de generalização da rede em teste. A hipótese é a de que a provocação de uma maior distância entre os pontos de saída da rede pode ter relação direta com a melhoria na classificação dos padrões. Os diferentes tipos de vetores-alvo tais como VBNs, VBCs e VNOs são utilizados para o treinamento de MLPs e os seus desempenhos são comparados com a rede treinada adotando-se os VBOs. As evidências matemáticas da melhoria de desempenho foram encontradas no refinamento da atualização dos pesos, etapa denominada no algoritmo como retro propagação do erro. Esse refinamento característico do treinamento com VBOs age no sentido de preservar as características de cada padrão, reduzindo o ruído de interferência do treinamento de um padrão para outro. Seguindo-se ao estudo matemático, realiza-se uma análise experimental mais avançada da utilização dos VBOs por meio de duas bases de dados para reconhecimento de padrões. A primeira base de dados é a de dígitos manuscritos para comparar os desempenhos de MLPs treinadas com VBCs e VNOs com aquelas treinadas com VBOs. Os resultados mostraram taxas de classificação superiores para a MLP treinada com VBOs. A segunda base de dados é formada por imagens de íris humana com o propósito de realizar a comparação dos desempenhos de MLPs treinadas com vetores-alvo convencionais e novos vetores-alvo representados pelos VBOs. Além da alta performance nas taxas de reconhecimento das MLPs treinadas com VBOs, observou-se que com o uso desses novos vetores-alvo, é possível obter elevadas taxas de reconhecimento com pouco rigor nas épocas de treinamento, reduzindo-se consequentemente a carga computacional de processamento dos padrões.Coordenação de Aperfeiçoamento de Pessoal de Nível SuperiorMestre em Ciênciasapplication/pdfporUniversidade Federal de UberlândiaPrograma de Pós-graduação em Engenharia ElétricaUFUBREngenhariasEstudo matemáticoReconhecimento de padrõesMultilayer perceptronVetores-alvoVetores bipolares ortogonaisRedes neurais artificiaisVetores - AnáliseMathematical studyPattern recognitionArtificial neural networksMultilayer perceptronTarget vectorsOrthogonal bipolar vectorsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAvançada análise do uso de novos vetores-alvo em MLPs de alta performanceAdvanced analysis of using new target vectors on high performance MLPsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisNomura, Shigueohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4723707A0Yamanaka, Keijihttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4798494D8Pinto, Edmilson Rodrigueshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4775406H8Camilo Júnior, Celso Gonçalveshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4736184D1http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4241519Z5Manzan, José Ricardo Gonçalvesinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFUinstname:Universidade Federal de Uberlândia (UFU)instacron:UFUTHUMBNAILd.pdf.jpgd.pdf.jpgGenerated Thumbnailimage/jpeg1399https://repositorio.ufu.br/bitstream/123456789/14498/3/d.pdf.jpg135faff7e4a573ee2d7a7b8b87155ec1MD53ORIGINALd.pdfapplication/pdf1936524https://repositorio.ufu.br/bitstream/123456789/14498/1/d.pdfc8afa68139ffec3c5d22582111b84c61MD51TEXTd.pdf.txtd.pdf.txtExtracted texttext/plain192153https://repositorio.ufu.br/bitstream/123456789/14498/2/d.pdf.txtab1598bc576b542d516f2af1921b5571MD52123456789/144982016-06-23 03:58:24.511oai:repositorio.ufu.br:123456789/14498Repositório InstitucionalONGhttp://repositorio.ufu.br/oai/requestdiinf@dirbi.ufu.bropendoar:2016-06-23T06:58:24Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU)false |
dc.title.por.fl_str_mv |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
dc.title.alternative.eng.fl_str_mv |
Advanced analysis of using new target vectors on high performance MLPs |
title |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
spellingShingle |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance Manzan, José Ricardo Gonçalves Estudo matemático Reconhecimento de padrões Multilayer perceptron Vetores-alvo Vetores bipolares ortogonais Redes neurais artificiais Vetores - Análise Mathematical study Pattern recognition Artificial neural networks Multilayer perceptron Target vectors Orthogonal bipolar vectors CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
title_short |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
title_full |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
title_fullStr |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
title_full_unstemmed |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
title_sort |
Avançada análise do uso de novos vetores-alvo em MLPs de alta performance |
author |
Manzan, José Ricardo Gonçalves |
author_facet |
Manzan, José Ricardo Gonçalves |
author_role |
author |
dc.contributor.advisor-co1.fl_str_mv |
Nomura, Shigueo |
dc.contributor.advisor-co1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4723707A0 |
dc.contributor.advisor1.fl_str_mv |
Yamanaka, Keiji |
dc.contributor.advisor1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4798494D8 |
dc.contributor.referee1.fl_str_mv |
Pinto, Edmilson Rodrigues |
dc.contributor.referee1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4775406H8 |
dc.contributor.referee2.fl_str_mv |
Camilo Júnior, Celso Gonçalves |
dc.contributor.referee2Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4736184D1 |
dc.contributor.authorLattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4241519Z5 |
dc.contributor.author.fl_str_mv |
Manzan, José Ricardo Gonçalves |
contributor_str_mv |
Nomura, Shigueo Yamanaka, Keiji Pinto, Edmilson Rodrigues Camilo Júnior, Celso Gonçalves |
dc.subject.por.fl_str_mv |
Estudo matemático Reconhecimento de padrões Multilayer perceptron Vetores-alvo Vetores bipolares ortogonais Redes neurais artificiais Vetores - Análise |
topic |
Estudo matemático Reconhecimento de padrões Multilayer perceptron Vetores-alvo Vetores bipolares ortogonais Redes neurais artificiais Vetores - Análise Mathematical study Pattern recognition Artificial neural networks Multilayer perceptron Target vectors Orthogonal bipolar vectors CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
dc.subject.eng.fl_str_mv |
Mathematical study Pattern recognition Artificial neural networks Multilayer perceptron Target vectors Orthogonal bipolar vectors |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
description |
This work proposes an advanced analysis for MLP performance improvement by adopting new target vectors. Firstly, a mathematical study is done to evaluate the influence of VBOs used as target vectors on MLP training. The VBOs provide the largest possible Euclidean distance between them to improve the training and generalization capability of MLPs. The largest distance inducement between points from output space leads to direct correspondence on pattern classification improvement. The various types of target vectors such as VBNs, VBCs and VNOs are adopted for training of MLP models and their performances are compared with the model trained by using VBOs. The mathematical evidences of performance improvement were found on weight updating refinement from backpropagation error stage of the algorithm. This particular refinement for training with VBOs is useful to preserve the features of each pattern due to noise interference reduction during the training process from a pattern to another. Following the mathematical study, more advanced experimental analysis using VBOs with two databases for pattern recognition is performed. The first database is related to the handwritten digits for comparing the performances of MLPs trained by adopting VBCs and VNOs with the performance of MLP trained by adopting VBOs. The results showed higher classification rates for the MLP trained with VBOs. The second database is constituted by human iris images in order to perform the comparison of MLP performances using conventional target vectors and new target ones represented by VBOs. Besides the high performance of MLPs trained with VBOs on recognition rates, it was concluded that the use of new target vectors provides high recognition rates with low tolerance for epoch trainings leading to the consequent low computational load for pattern processing. |
publishDate |
2012 |
dc.date.available.fl_str_mv |
2012-11-09 2016-06-22T18:38:46Z |
dc.date.issued.fl_str_mv |
2012-09-27 |
dc.date.accessioned.fl_str_mv |
2016-06-22T18:38:46Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufu.br/handle/123456789/14498 |
identifier_str_mv |
MANZAN, José Ricardo Gonçalves. Advanced analysis of using new target vectors on high performance MLPs. 2012. 114 f. Dissertação (Mestrado em Engenharias) - Universidade Federal de Uberlândia, Uberlândia, 2012. |
url |
https://repositorio.ufu.br/handle/123456789/14498 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Universidade Federal de Uberlândia |
dc.publisher.program.fl_str_mv |
Programa de Pós-graduação em Engenharia Elétrica |
dc.publisher.initials.fl_str_mv |
UFU |
dc.publisher.country.fl_str_mv |
BR |
dc.publisher.department.fl_str_mv |
Engenharias |
publisher.none.fl_str_mv |
Universidade Federal de Uberlândia |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFU instname:Universidade Federal de Uberlândia (UFU) instacron:UFU |
instname_str |
Universidade Federal de Uberlândia (UFU) |
instacron_str |
UFU |
institution |
UFU |
reponame_str |
Repositório Institucional da UFU |
collection |
Repositório Institucional da UFU |
bitstream.url.fl_str_mv |
https://repositorio.ufu.br/bitstream/123456789/14498/3/d.pdf.jpg https://repositorio.ufu.br/bitstream/123456789/14498/1/d.pdf https://repositorio.ufu.br/bitstream/123456789/14498/2/d.pdf.txt |
bitstream.checksum.fl_str_mv |
135faff7e4a573ee2d7a7b8b87155ec1 c8afa68139ffec3c5d22582111b84c61 ab1598bc576b542d516f2af1921b5571 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFU - Universidade Federal de Uberlândia (UFU) |
repository.mail.fl_str_mv |
diinf@dirbi.ufu.br |
_version_ |
1792331449484967936 |