Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação

Detalhes bibliográficos
Ano de defesa: 2013
Autor(a) principal: Padilha, Carlos Alberto de Araújo
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Rio Grande do Norte
BR
UFRN
Programa de Pós-Graduação em Engenharia Elétrica
Automação e Sistemas; Engenharia de Computação; Telecomunicações
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: https://repositorio.ufrn.br/jspui/handle/123456789/15472
Resumo: The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers
id UFRN_83a008d6490f6ae037e2b28d9298109e
oai_identifier_str oai:repositorio.ufrn.br:123456789/15472
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificaçãoClassificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticosPattern classification. Least squares support vector machines. Ensembles. Genetic algorithmsCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAThe pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiersCoordenação de Aperfeiçoamento de Pessoal de Nível SuperiorA classificação de padrões é uma das subáreas do aprendizado de máquina que possui maior destaque. Entre as várias técnicas para resolver problemas de classificação de padrões, as Máquinas de Vetor de Suporte (do inglês, Support Vector Machines ou SVM) recebem grande ênfase, devido a sua facilidade de uso e boa capacidade de generalização. A formulação por Mínimos Quadrados da SVM (do inglês, Least Squares Support Vector Machines ou LS-SVM) encontra um hiperplano de separação ótima através da solução de um sistema de equações lineares, evitando assim o uso da programação quadrática implementada na SVM. As LS-SVMs fornecem alguns parâmetros livres que precisam ser corretamente selecionados para alcançar resultados satisfatórios em uma determinada tarefa. Apesar das LS-SVMs possuir elevado desempenho, várias ferramentas tem sido desenvolvidas para aprimorá-la, principalmente o desenvolvimento de novos métodos de classificação e a utilização de comitês de máquinas, ou seja, a combinação de vários classificadores. Neste trabalho, nós propomos tanto o uso de um comitê de máquinas quanto o uso de um Algoritmo Genético (AG), algoritmo de busca baseada na evolução das espécies, para aprimorar o poder de classificação da LS-SVM. Na construção desse comitê, utilizamos uma seleção aleatória de atributos do problema original, que divide o problema original em outros menores onde cada classificador do comitê vai atuar. Então, aplicamos o AG para encontrar valores efetivos para os parâmetros de cada LS-SVM e também encontrando um vetor de pesos, medindo a importância de cada máquina na classificação final. Por fim, a classificação final é dada por uma combinação linear das respostas de cada máquina ponderadas pelos pesos. Foram utilizados vários problemas de classificação, tidos como benchmarks, para avaliar o desempenho do algoritmo e comparamos os resultados obtidos com outros classificadoresUniversidade Federal do Rio Grande do NorteBRUFRNPrograma de Pós-Graduação em Engenharia ElétricaAutomação e Sistemas; Engenharia de Computação; TelecomunicaçõesDória Neto, Adrião Duartehttp://lattes.cnpq.br/3020236775004881http://lattes.cnpq.br/1987295209521433Canuto, Anne Magaly de Paulahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8Melo, Jorge Dantas dehttp://lattes.cnpq.br/7325007451912598Ludermir, Teresa Bernardahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6Padilha, Carlos Alberto de Araújo2014-12-17T14:56:13Z2013-08-202014-12-17T14:56:13Z2013-01-31info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfapplication/pdfPADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.https://repositorio.ufrn.br/jspui/handle/123456789/15472porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRN2017-10-31T19:05:09Zoai:repositorio.ufrn.br:123456789/15472Repositório InstitucionalPUBhttp://repositorio.ufrn.br/oai/repositorio@bczm.ufrn.bropendoar:2017-10-31T19:05:09Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.none.fl_str_mv Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
spellingShingle Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
Padilha, Carlos Alberto de Araújo
Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
title_short Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_full Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_fullStr Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_full_unstemmed Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
title_sort Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação
author Padilha, Carlos Alberto de Araújo
author_facet Padilha, Carlos Alberto de Araújo
author_role author
dc.contributor.none.fl_str_mv Dória Neto, Adrião Duarte

http://lattes.cnpq.br/3020236775004881

http://lattes.cnpq.br/1987295209521433
Canuto, Anne Magaly de Paula

http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790093J8
Melo, Jorge Dantas de

http://lattes.cnpq.br/7325007451912598
Ludermir, Teresa Bernarda

http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4781122D6
dc.contributor.author.fl_str_mv Padilha, Carlos Alberto de Araújo
dc.subject.por.fl_str_mv Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
topic Classificação de padrões. Máquinas de vetor de suporte por mínimos quadrados. Comitês de máquinas. Algoritmos genéticos
Pattern classification. Least squares support vector machines. Ensembles. Genetic algorithms
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
description The pattern classification is one of the machine learning subareas that has the most outstanding. Among the various approaches to solve pattern classification problems, the Support Vector Machines (SVM) receive great emphasis, due to its ease of use and good generalization performance. The Least Squares formulation of SVM (LS-SVM) finds the solution by solving a set of linear equations instead of quadratic programming implemented in SVM. The LS-SVMs provide some free parameters that have to be correctly chosen to achieve satisfactory results in a given task. Despite the LS-SVMs having high performance, lots of tools have been developed to improve them, mainly the development of new classifying methods and the employment of ensembles, in other words, a combination of several classifiers. In this work, our proposal is to use an ensemble and a Genetic Algorithm (GA), search algorithm based on the evolution of species, to enhance the LSSVM classification. In the construction of this ensemble, we use a random selection of attributes of the original problem, which it splits the original problem into smaller ones where each classifier will act. So, we apply a genetic algorithm to find effective values of the LS-SVM parameters and also to find a weight vector, measuring the importance of each machine in the final classification. Finally, the final classification is obtained by a linear combination of the decision values of the LS-SVMs with the weight vector. We used several classification problems, taken as benchmarks to evaluate the performance of the algorithm and compared the results with other classifiers
publishDate 2013
dc.date.none.fl_str_mv 2013-08-20
2013-01-31
2014-12-17T14:56:13Z
2014-12-17T14:56:13Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.
https://repositorio.ufrn.br/jspui/handle/123456789/15472
identifier_str_mv PADILHA, Carlos Alberto de Araújo. Algoritmos genéticos aplicados a um comitê de LS-SVM em problemas de classificação. 2013. 69 f. Dissertação (Mestrado em Automação e Sistemas; Engenharia de Computação; Telecomunicações) - Universidade Federal do Rio Grande do Norte, Natal, 2013.
url https://repositorio.ufrn.br/jspui/handle/123456789/15472
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
BR
UFRN
Programa de Pós-Graduação em Engenharia Elétrica
Automação e Sistemas; Engenharia de Computação; Telecomunicações
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
BR
UFRN
Programa de Pós-Graduação em Engenharia Elétrica
Automação e Sistemas; Engenharia de Computação; Telecomunicações
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv repositorio@bczm.ufrn.br
_version_ 1855758790762168320