[en] HIERARCHICAL NEURO-FUZZY MODELS

Detalhes bibliográficos
Ano de defesa: 2005
Autor(a) principal: FLAVIO JOAQUIM DE SOUZA
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: MAXWELL
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=1
https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=2
http://doi.org/10.17771/PUCRio.acad.7576
Resumo: [pt] Esta dissertação apresenta uma nova proposta de sistemas (modelos) neuro-fuzzy que possuem, além do tradicional aprendizado dos parâmetros, comuns às redes neurais e aos sistemas nero-fuzzy, as seguintes características: aprendizado de estrutura, a partir do uso de particionamentos recursisvos; número maior de entradas que o comumente encontrado nos sistemas neuro-fuzzy; e regras com hierarquia. A definição da estrutura é uma necessidade que surge quando da implementação de um determinado modelo. Pode-se citar o caso das redes neurais, em que se deve determinar (ou arbitrar) a priori sua estrutura (número de camadas e quantidade de neurônios por camadas) antes de qualquer teste. Um método automático de aprendizado da estrutura é, portanto, uma característica importante em qualquer modelo. Um sistema que também permita o uso de um número maior de entradas é interessante para se abranger um maior número de aplicações. As regras com hierarquia são um subproduto do método de aprendizado de estrutura desenvolvido nestes novos modelos. O trabalho envolveu três partes principais: um levantamento sobre os sistemas neuro-fuzzy existentes e sobre os métodos mais comuns de ajuste de parâmetros; a definição e implementação de dois modelos neuro-fuzzy hierárquicos; e o estudo de casos. No estudo sobre os sistemas neuro-fuzzy(SNF) fez-se um levantamento na bibliografia da área sobre as características principais desses sistemas, incluindo suas virtudes e deficiências. Este estudo gerou a proposta de uma taxonomia para os SNF, em função das características fuzzy neurais. Em virtude deste estudo constataram-se limitações quanto à capacidade de criação de sua própria estrutura e quanto ao número reduzido de entradas possíveis. No que se refere aos métodos de ajuste dos parâmetros abordou-se os métodos mais comuns utilizados nos SNF, a saber: o método dos mínimos quadrados com sua solução através de métodos numéricos iterativos; e o método gradient descent e seus derivados como o BackPropagation e o RProp(Resilient BackPropagation). A definição dos dois novos modelos neuro-fuzzy foi feita a partir do estudo das características desejáveis e das limitações dos SNF até então desenvolvidos. Observou-se que a base de regras dos SNF juntamente com os seus formatos de particionamento dos espaços de entrada e saída têm grande influência sobre o desempenho e as limitações destes modelos. Assim sendo, decidiu-se utilizar uma nova forma de particionamento que eliminasse ou reduzisse as limitações existentes- os particionamentos recursivos. Optou-se pelo uso dos particionamentos Quadtree e BSP, gerando os dois modelos NFHQ (Neuro-Fuzzy Hierárquico Quadree) e NFHB (Neiro-Fuzzy Hierárquico BSP). Com o uso de particionamentos obteve-se um nova classe de SNF que permitiu além do aprendizado dos parâmetros, também o aprendizado dos parâmetros. Isto representa um grande diferencial em relação aos SNF tradicionais, além do fato de se conseguir extender o limite do número de entradas possíveis para estes sistemas. No estudo de casos, os dois modelos neurofuzzy hierárquicos foram testados 16 casos diferentes, entre as aplicações benchmarks mais tradicionais da área e problemas com maior número de entradas. Entre os casos estudados estão: o conjunto de dados IRIS; o problema das duas espirais; a previsão da série caótica de Mackey- Glass; alguns sistemas de diagnóstico e classificação gerados a partir de conjuntos de dados comumente utilizados em artigos de machine learning e uma aplicação de previsão de carga elétrica. A implementação dos dois novos modelos neuro-fuzzy foi efetuada em linguagem pascal e com o uso de um compilador de 32 bits para micros da linha PC (Pentium) com sistema operacional DOS 32 bits, Windows, ou Linux. Os testes efetuados demostraram que: esses novos modelos se ajustam bem a qualquer conjunto de dados; geram sua própria estrutura; ajustam seus parâmetros com boa generalização e extraem
id PUC_RIO-1_9cb3e1b72bbd518bf838e1b764fd9e65
oai_identifier_str oai:MAXWELL.puc-rio.br:7576
network_acronym_str PUC_RIO-1
network_name_str Repositório Institucional da PUC-RIO (Projeto Maxwell)
repository_id_str
spelling [en] HIERARCHICAL NEURO-FUZZY MODELS [pt] MODELOS NEURO-FUZZY HIERÁRQUICOS [pt] REDE NEURAL[pt] SISTEMAS HIERARQUICOS[pt] SISTEMAS NEURO-FUZZY[en] NEURAL NETWORKS[en] HIERARCHICAL SYSTEMS[en] NEURO-FUZZY SYSTEMS[pt] Esta dissertação apresenta uma nova proposta de sistemas (modelos) neuro-fuzzy que possuem, além do tradicional aprendizado dos parâmetros, comuns às redes neurais e aos sistemas nero-fuzzy, as seguintes características: aprendizado de estrutura, a partir do uso de particionamentos recursisvos; número maior de entradas que o comumente encontrado nos sistemas neuro-fuzzy; e regras com hierarquia. A definição da estrutura é uma necessidade que surge quando da implementação de um determinado modelo. Pode-se citar o caso das redes neurais, em que se deve determinar (ou arbitrar) a priori sua estrutura (número de camadas e quantidade de neurônios por camadas) antes de qualquer teste. Um método automático de aprendizado da estrutura é, portanto, uma característica importante em qualquer modelo. Um sistema que também permita o uso de um número maior de entradas é interessante para se abranger um maior número de aplicações. As regras com hierarquia são um subproduto do método de aprendizado de estrutura desenvolvido nestes novos modelos. O trabalho envolveu três partes principais: um levantamento sobre os sistemas neuro-fuzzy existentes e sobre os métodos mais comuns de ajuste de parâmetros; a definição e implementação de dois modelos neuro-fuzzy hierárquicos; e o estudo de casos. No estudo sobre os sistemas neuro-fuzzy(SNF) fez-se um levantamento na bibliografia da área sobre as características principais desses sistemas, incluindo suas virtudes e deficiências. Este estudo gerou a proposta de uma taxonomia para os SNF, em função das características fuzzy neurais. Em virtude deste estudo constataram-se limitações quanto à capacidade de criação de sua própria estrutura e quanto ao número reduzido de entradas possíveis. No que se refere aos métodos de ajuste dos parâmetros abordou-se os métodos mais comuns utilizados nos SNF, a saber: o método dos mínimos quadrados com sua solução através de métodos numéricos iterativos; e o método gradient descent e seus derivados como o BackPropagation e o RProp(Resilient BackPropagation). A definição dos dois novos modelos neuro-fuzzy foi feita a partir do estudo das características desejáveis e das limitações dos SNF até então desenvolvidos. Observou-se que a base de regras dos SNF juntamente com os seus formatos de particionamento dos espaços de entrada e saída têm grande influência sobre o desempenho e as limitações destes modelos. Assim sendo, decidiu-se utilizar uma nova forma de particionamento que eliminasse ou reduzisse as limitações existentes- os particionamentos recursivos. Optou-se pelo uso dos particionamentos Quadtree e BSP, gerando os dois modelos NFHQ (Neuro-Fuzzy Hierárquico Quadree) e NFHB (Neiro-Fuzzy Hierárquico BSP). Com o uso de particionamentos obteve-se um nova classe de SNF que permitiu além do aprendizado dos parâmetros, também o aprendizado dos parâmetros. Isto representa um grande diferencial em relação aos SNF tradicionais, além do fato de se conseguir extender o limite do número de entradas possíveis para estes sistemas. No estudo de casos, os dois modelos neurofuzzy hierárquicos foram testados 16 casos diferentes, entre as aplicações benchmarks mais tradicionais da área e problemas com maior número de entradas. Entre os casos estudados estão: o conjunto de dados IRIS; o problema das duas espirais; a previsão da série caótica de Mackey- Glass; alguns sistemas de diagnóstico e classificação gerados a partir de conjuntos de dados comumente utilizados em artigos de machine learning e uma aplicação de previsão de carga elétrica. A implementação dos dois novos modelos neuro-fuzzy foi efetuada em linguagem pascal e com o uso de um compilador de 32 bits para micros da linha PC (Pentium) com sistema operacional DOS 32 bits, Windows, ou Linux. Os testes efetuados demostraram que: esses novos modelos se ajustam bem a qualquer conjunto de dados; geram sua própria estrutura; ajustam seus parâmetros com boa generalização e extraem [en] This dissertation presents a new proposal of neurofuzzy systems (models), which present, in addition to the learning capacity (which are common to the neural networks and neurofuzzy systems) the following features: learning of the structure; the use of recursive partitioning; a greater number of inputs than usually allowed in neurofuzzy systems; and hierarchical rules. The structure´s definition is needed when implementing a certain model. In the neural network case, for example, one must, first of all, estabilish its structure (number of layers and number of neurons per layers) before any test is performed. So, an important feature for any model is the existence of an automatic learning method for creating its structure. A system that allows a larger number of inputs is also important, in order to extend the range of possible applications. The hierarchical rules feature results from the structure learning method developed for these two models. The work has involved three main parts: study of the existing neurofuzzy systems and of the most commom methods to adjust its parameters; definition and implementation of two hierarchical neurofuzzy models; and case studies. The study of neurofuzzy systems (NFS) was accomplished by creating a survey on this area, including advantages, drawbacks and the main features of NFS. A taxonomy about NFS was then proposed, taking into account the neural and fuzzy features of the existing systems. This study pointed out the limitations of neurofuzzy systems, mainly their poor capability of creating its own structure and the reduced number of allowed inputs. The study of the methods for parameter adjustment has focused on the following algorithms: Least Square estimator (LSE) and its solutions by numerical iterative methods; and the basic gradient descent method and its offsprings such as Backpropagation and Rprop (Resilient Backpropagation). The definition of two new neurofuzzy models was accomplished by considering desirable features and limitations of the existing NFS. It was observed that the partitioning formats and rule basis of the NFS have great influence on its performance and limitations. Thus, the decision to use a new partitioning method to remove or reduce the existing limitations - the recursive partitioning. The Quadtree and BSP partitioning were then adopted, generating the so called Quadree Hierarchical Neurofuzzy model (NFHQ) and the BSP hierarchical Neurofuzzy model (NFHB). By using these kind os partitioning a new class of NFS was obtained allowing the learning of the structure in addition to parameter learning. This Feature represents a great differential in relation to the traditional NFS, besides overcoming the limitation in the number of allowed inputs. In the case studies, the two neurofuzzy models were tested in 16 differents cases, such as traditional benchmarks and problems with a greater number of inputs. Among the cases studied are: the IRIS DATA set; the two spirals problem; the forecasting of Mackey-Glass chaotic time series; some diagnosis and classifications problems, found in papers about machine learning; and a real application involving load forecasting. The implementation of the two new neurofuzzy models was carried out using a 32 bit Pascal compiler for PC microcomputers using DOS or Linux operating system. The tests have shown that: these new models are able to adjust well any data sets; they create its own struture; they adjust its parameters, presenting a good generalization performance; and automatically extract the fuzzy rules. Beyond that, applications with a greater number of inputs for these neurofuzzy models. In short two neurofuzzy models were developed with the capability of structure learning, in addition to parameter learning. Moreover, these new models have good interpretability through hierarchical fuzzy rules. They are not black coxes as the neural networks.MAXWELLMARLEY MARIA BERNARDES REBUZZI VELLASCOMARLEY MARIA BERNARDES REBUZZI VELLASCOMARCO AURELIO CAVALCANTI PACHECOMARCO AURELIO CAVALCANTI PACHECOMARCO AURELIO CAVALCANTI PACHECOFLAVIO JOAQUIM DE SOUZA2005-12-13info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesishttps://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=1https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=2http://doi.org/10.17771/PUCRio.acad.7576porreponame:Repositório Institucional da PUC-RIO (Projeto Maxwell)instname:Pontifícia Universidade Católica do Rio de Janeiro (PUC-RIO)instacron:PUC_RIOinfo:eu-repo/semantics/openAccess2022-08-26T00:00:00Zoai:MAXWELL.puc-rio.br:7576Repositório InstitucionalPRIhttps://www.maxwell.vrac.puc-rio.br/ibict.phpopendoar:5342022-08-26T00:00Repositório Institucional da PUC-RIO (Projeto Maxwell) - Pontifícia Universidade Católica do Rio de Janeiro (PUC-RIO)false
dc.title.none.fl_str_mv [en] HIERARCHICAL NEURO-FUZZY MODELS
[pt] MODELOS NEURO-FUZZY HIERÁRQUICOS
title [en] HIERARCHICAL NEURO-FUZZY MODELS
spellingShingle [en] HIERARCHICAL NEURO-FUZZY MODELS
FLAVIO JOAQUIM DE SOUZA
[pt] REDE NEURAL
[pt] SISTEMAS HIERARQUICOS
[pt] SISTEMAS NEURO-FUZZY
[en] NEURAL NETWORKS
[en] HIERARCHICAL SYSTEMS
[en] NEURO-FUZZY SYSTEMS
title_short [en] HIERARCHICAL NEURO-FUZZY MODELS
title_full [en] HIERARCHICAL NEURO-FUZZY MODELS
title_fullStr [en] HIERARCHICAL NEURO-FUZZY MODELS
title_full_unstemmed [en] HIERARCHICAL NEURO-FUZZY MODELS
title_sort [en] HIERARCHICAL NEURO-FUZZY MODELS
author FLAVIO JOAQUIM DE SOUZA
author_facet FLAVIO JOAQUIM DE SOUZA
author_role author
dc.contributor.none.fl_str_mv MARLEY MARIA BERNARDES REBUZZI VELLASCO
MARLEY MARIA BERNARDES REBUZZI VELLASCO
MARCO AURELIO CAVALCANTI PACHECO
MARCO AURELIO CAVALCANTI PACHECO
MARCO AURELIO CAVALCANTI PACHECO
dc.contributor.author.fl_str_mv FLAVIO JOAQUIM DE SOUZA
dc.subject.por.fl_str_mv [pt] REDE NEURAL
[pt] SISTEMAS HIERARQUICOS
[pt] SISTEMAS NEURO-FUZZY
[en] NEURAL NETWORKS
[en] HIERARCHICAL SYSTEMS
[en] NEURO-FUZZY SYSTEMS
topic [pt] REDE NEURAL
[pt] SISTEMAS HIERARQUICOS
[pt] SISTEMAS NEURO-FUZZY
[en] NEURAL NETWORKS
[en] HIERARCHICAL SYSTEMS
[en] NEURO-FUZZY SYSTEMS
description [pt] Esta dissertação apresenta uma nova proposta de sistemas (modelos) neuro-fuzzy que possuem, além do tradicional aprendizado dos parâmetros, comuns às redes neurais e aos sistemas nero-fuzzy, as seguintes características: aprendizado de estrutura, a partir do uso de particionamentos recursisvos; número maior de entradas que o comumente encontrado nos sistemas neuro-fuzzy; e regras com hierarquia. A definição da estrutura é uma necessidade que surge quando da implementação de um determinado modelo. Pode-se citar o caso das redes neurais, em que se deve determinar (ou arbitrar) a priori sua estrutura (número de camadas e quantidade de neurônios por camadas) antes de qualquer teste. Um método automático de aprendizado da estrutura é, portanto, uma característica importante em qualquer modelo. Um sistema que também permita o uso de um número maior de entradas é interessante para se abranger um maior número de aplicações. As regras com hierarquia são um subproduto do método de aprendizado de estrutura desenvolvido nestes novos modelos. O trabalho envolveu três partes principais: um levantamento sobre os sistemas neuro-fuzzy existentes e sobre os métodos mais comuns de ajuste de parâmetros; a definição e implementação de dois modelos neuro-fuzzy hierárquicos; e o estudo de casos. No estudo sobre os sistemas neuro-fuzzy(SNF) fez-se um levantamento na bibliografia da área sobre as características principais desses sistemas, incluindo suas virtudes e deficiências. Este estudo gerou a proposta de uma taxonomia para os SNF, em função das características fuzzy neurais. Em virtude deste estudo constataram-se limitações quanto à capacidade de criação de sua própria estrutura e quanto ao número reduzido de entradas possíveis. No que se refere aos métodos de ajuste dos parâmetros abordou-se os métodos mais comuns utilizados nos SNF, a saber: o método dos mínimos quadrados com sua solução através de métodos numéricos iterativos; e o método gradient descent e seus derivados como o BackPropagation e o RProp(Resilient BackPropagation). A definição dos dois novos modelos neuro-fuzzy foi feita a partir do estudo das características desejáveis e das limitações dos SNF até então desenvolvidos. Observou-se que a base de regras dos SNF juntamente com os seus formatos de particionamento dos espaços de entrada e saída têm grande influência sobre o desempenho e as limitações destes modelos. Assim sendo, decidiu-se utilizar uma nova forma de particionamento que eliminasse ou reduzisse as limitações existentes- os particionamentos recursivos. Optou-se pelo uso dos particionamentos Quadtree e BSP, gerando os dois modelos NFHQ (Neuro-Fuzzy Hierárquico Quadree) e NFHB (Neiro-Fuzzy Hierárquico BSP). Com o uso de particionamentos obteve-se um nova classe de SNF que permitiu além do aprendizado dos parâmetros, também o aprendizado dos parâmetros. Isto representa um grande diferencial em relação aos SNF tradicionais, além do fato de se conseguir extender o limite do número de entradas possíveis para estes sistemas. No estudo de casos, os dois modelos neurofuzzy hierárquicos foram testados 16 casos diferentes, entre as aplicações benchmarks mais tradicionais da área e problemas com maior número de entradas. Entre os casos estudados estão: o conjunto de dados IRIS; o problema das duas espirais; a previsão da série caótica de Mackey- Glass; alguns sistemas de diagnóstico e classificação gerados a partir de conjuntos de dados comumente utilizados em artigos de machine learning e uma aplicação de previsão de carga elétrica. A implementação dos dois novos modelos neuro-fuzzy foi efetuada em linguagem pascal e com o uso de um compilador de 32 bits para micros da linha PC (Pentium) com sistema operacional DOS 32 bits, Windows, ou Linux. Os testes efetuados demostraram que: esses novos modelos se ajustam bem a qualquer conjunto de dados; geram sua própria estrutura; ajustam seus parâmetros com boa generalização e extraem
publishDate 2005
dc.date.none.fl_str_mv 2005-12-13
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=1
https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=2
http://doi.org/10.17771/PUCRio.acad.7576
url https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=1
https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=7576&idi=2
http://doi.org/10.17771/PUCRio.acad.7576
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv MAXWELL
publisher.none.fl_str_mv MAXWELL
dc.source.none.fl_str_mv reponame:Repositório Institucional da PUC-RIO (Projeto Maxwell)
instname:Pontifícia Universidade Católica do Rio de Janeiro (PUC-RIO)
instacron:PUC_RIO
instname_str Pontifícia Universidade Católica do Rio de Janeiro (PUC-RIO)
instacron_str PUC_RIO
institution PUC_RIO
reponame_str Repositório Institucional da PUC-RIO (Projeto Maxwell)
collection Repositório Institucional da PUC-RIO (Projeto Maxwell)
repository.name.fl_str_mv Repositório Institucional da PUC-RIO (Projeto Maxwell) - Pontifícia Universidade Católica do Rio de Janeiro (PUC-RIO)
repository.mail.fl_str_mv
_version_ 1856395888941858816