A study of LMS-based algorithms: exploiting plain and hidden sparsity

Detalhes bibliográficos
Ano de defesa: 2019
Autor(a) principal: Chaves, Gabriel da Silva
Orientador(a): Lima, Markus Vinícius Santos
Banca de defesa: Haddad, Diego Barreto, Nose Filho, Kenji
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Universidade Federal do Rio de Janeiro
Programa de Pós-Graduação: Programa de Pós-Graduação em Engenharia Elétrica
Departamento: Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
País: Brasil
Palavras-chave em Inglês:
Área do conhecimento CNPq:
Link de acesso: http://hdl.handle.net/11422/14106
Resumo: Nas últimas décadas, os filtros adaptativos foram empregados em diferentes aplicações. O foco dessa dissertação é em uma aplicação em particular: identificação de sistemas que apresentam alguma esparsidade. Um sistema é esparso quando ele pode ser representado por poucos coeficientes em algum domínio. Este trabalho aborda os seguintes tipos de esparsidade: a simples e a escondida. A simples é bastante conhecida em filtragem adaptativa e ocorre quando é possível observar a esparsidade sem nenhuma manipulação matemática. Por conta da sua importância, duas famílias de algoritmos foram criadas com o intuito de explorá-la. A ideia proporcional tenta explorar a esparsidade ao atribuir tamanho de passo únicos para cada coeficiente. Enquanto a família dos algoritmos regularizados usam funções promotoras de esparsidade. Considerando que os algoritmos proporcionais não modelam a esparsidade explicitamente, esse trabalho realiza um estudo aprofundado dessa família, apresentando algumas propriedades ainda não documentadas. Para isso, resultados numéricos foram apresentados, concluindo-se que os algoritmos proporcionais exploram algo mais geral que a esparsidade. A esparsidade escondida é mais recente em filtragem adaptativa e requer manipulações matemáticas para revelar a esparsidade dosistema. O algoritmo feature least-mean-square (F-LMS) resolve esse problema ao introduzir a matriz de features. Entretanto, existem muitas aplicações que possuem os dois tipos de esparsidade, e o algoritmo F-LMS não explorá-la simples. Com isso, foi proposto o algoritmo simple sparsity-aware F-LMS(SSF-LMS), o qual explora ambos os tipos de esparsidade enquanto realiza menos operações aritméticas, ao usar a função de descarte.
id UFRJ_6d47667d0cf12719ca65afea325e9c65
oai_identifier_str oai:pantheon.ufrj.br:11422/14106
network_acronym_str UFRJ
network_name_str Repositório Institucional da UFRJ
repository_id_str
spelling Chaves, Gabriel da Silvahttp://lattes.cnpq.br/2937113853259682http://lattes.cnpq.br/3503334218721703Ferreira, Tadeu Nagashimahttp://lattes.cnpq.br/3756829511114463Haddad, Diego BarretoNose Filho, KenjiLima, Markus Vinícius Santos2021-04-06T17:41:14Z2021-04-08T03:00:08Z2019-08http://hdl.handle.net/11422/14106Nas últimas décadas, os filtros adaptativos foram empregados em diferentes aplicações. O foco dessa dissertação é em uma aplicação em particular: identificação de sistemas que apresentam alguma esparsidade. Um sistema é esparso quando ele pode ser representado por poucos coeficientes em algum domínio. Este trabalho aborda os seguintes tipos de esparsidade: a simples e a escondida. A simples é bastante conhecida em filtragem adaptativa e ocorre quando é possível observar a esparsidade sem nenhuma manipulação matemática. Por conta da sua importância, duas famílias de algoritmos foram criadas com o intuito de explorá-la. A ideia proporcional tenta explorar a esparsidade ao atribuir tamanho de passo únicos para cada coeficiente. Enquanto a família dos algoritmos regularizados usam funções promotoras de esparsidade. Considerando que os algoritmos proporcionais não modelam a esparsidade explicitamente, esse trabalho realiza um estudo aprofundado dessa família, apresentando algumas propriedades ainda não documentadas. Para isso, resultados numéricos foram apresentados, concluindo-se que os algoritmos proporcionais exploram algo mais geral que a esparsidade. A esparsidade escondida é mais recente em filtragem adaptativa e requer manipulações matemáticas para revelar a esparsidade dosistema. O algoritmo feature least-mean-square (F-LMS) resolve esse problema ao introduzir a matriz de features. Entretanto, existem muitas aplicações que possuem os dois tipos de esparsidade, e o algoritmo F-LMS não explorá-la simples. Com isso, foi proposto o algoritmo simple sparsity-aware F-LMS(SSF-LMS), o qual explora ambos os tipos de esparsidade enquanto realiza menos operações aritméticas, ao usar a função de descarte.Over the last decades, adaptive filters have been used in many different applications. This dissertation focuses on one in particular: the identification of systems presenting some kind of sparsity. A system is sparse when we represent it by only a few coefficients in some domain. This work addresses the following kinds of sparsity: the plain and the hidden. The plain one is well-known in the adaptive filtering field and occurs when the sparsity is directly observed in the coefficients space, without any mathematical manipulation. There are two distinct families of algorithms that were intended to tackle this problem. The proportionate family tries to exploit the plain sparsity by assigning particular step sizes to each of the coefficients. The second family is the regularized-type, which relies on sparsity promoting functions. Since the proportionate family of algorithms does not model the sparsity explicitly, this work performs a thorough study of this family, addressing some undocumented properties. Therefore, we present several numerical results, concluding that they exploit something more general than the plain sparsity. The hidden sparsity is a more recent problem in the adaptive filtering field, in which we reveal the system sparsity through some mathematical manipulation. The feature least-mean-square (F-LMS) algorithm addresses this problem introducing a feature matrix in the objective function of the LMS algorithm. However, several applications have both types of sparsity, and the F-LMS can not exploit the plain one. Then, we propose the simple sparsity-aware F-LMS (SSF-LMS), which exploits both of them while requiring less arithmetic operations by using the discard function.Submitted by Moreno Barros (moreno@ct.ufrj.br) on 2021-04-06T17:40:59Z No. of bitstreams: 1 GabrielDaSilvaChaves.pdf: 2624506 bytes, checksum: 69da93f86e56b59c7e6cdf09e52ed8a3 (MD5)Approved for entry into archive by Moreno Barros (moreno@ct.ufrj.br) on 2021-04-06T17:41:14Z (GMT) No. of bitstreams: 1 GabrielDaSilvaChaves.pdf: 2624506 bytes, checksum: 69da93f86e56b59c7e6cdf09e52ed8a3 (MD5)Made available in DSpace on 2021-04-06T17:41:14Z (GMT). No. of bitstreams: 1 GabrielDaSilvaChaves.pdf: 2624506 bytes, checksum: 69da93f86e56b59c7e6cdf09e52ed8a3 (MD5) Previous issue date: 2019-08engUniversidade Federal do Rio de JaneiroPrograma de Pós-Graduação em Engenharia ElétricaUFRJBrasilInstituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de EngenhariaCNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::SISTEMAS ELETRICOS DE POTENCIAAdaptive filteringSparsityLMS-based algorithmsProportionate-type familyFeature matrixDiscard functionA study of LMS-based algorithms: exploiting plain and hidden sparsityUm estudo de algoritmos baseados em LMS: explorando esparsidade simples e escondidainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisabertoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRJinstname:Universidade Federal do Rio de Janeiro (UFRJ)instacron:UFRJLICENSElicense.txtlicense.txttext/plain; charset=utf-81853http://pantheon.ufrj.br:80/bitstream/11422/14106/2/license.txtdd32849f2bfb22da963c3aac6e26e255MD52ORIGINALGabrielDaSilvaChaves.pdfGabrielDaSilvaChaves.pdfapplication/pdf2624506http://pantheon.ufrj.br:80/bitstream/11422/14106/1/GabrielDaSilvaChaves.pdf69da93f86e56b59c7e6cdf09e52ed8a3MD5111422/141062021-04-08 00:00:08.647oai:pantheon.ufrj.br:11422/14106TElDRU7Dh0EgTsODTy1FWENMVVNJVkEgREUgRElTVFJJQlVJw4fDg08KCkFvIGFzc2luYXIgZSBlbnRyZWdhciBlc3RhIGxpY2Vuw6dhLCB2b2PDqihzKSBvKHMpIGF1dG9yKGVzKSBvdSBwcm9wcmlldMOhcmlvKHMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBjb25jZWRlKG0pIGFvIFJlcG9zaXTDs3JpbyBQYW50aGVvbiBkYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkbyBSaW8gZGUgSmFuZWlybyAoVUZSSikgbyBkaXJlaXRvIG7Do28gLSBleGNsdXNpdm8gZGUgcmVwcm9kdXppciwgY29udmVydGVyIChjb21vIGRlZmluaWRvIGFiYWl4byksIGUvb3UgZGlzdHJpYnVpciBvIGRvY3VtZW50byBlbnRyZWd1ZSAoaW5jbHVpbmRvIG8gcmVzdW1vKSBlbSB0b2RvIG8gbXVuZG8sIGVtIGZvcm1hdG8gZWxldHLDtG5pY28gZSBlbSBxdWFscXVlciBtZWlvLCBpbmNsdWluZG8sIG1hcyBuw6NvIGxpbWl0YWRvIGEgw6F1ZGlvIGUvb3UgdsOtZGVvLgoKVm9jw6ogY29uY29yZGEgcXVlIGEgVUZSSiBwb2RlLCBzZW0gYWx0ZXJhciBvIGNvbnRlw7pkbywgdHJhZHV6aXIgYSBhcHJlc2VudGHDp8OjbyBkZSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gY29tIGEgZmluYWxpZGFkZSBkZSBwcmVzZXJ2YcOnw6NvLgoKVm9jw6ogdGFtYsOpbSBjb25jb3JkYSBxdWUgYSBVRlJKIHBvZGUgbWFudGVyIG1haXMgZGUgdW1hIGPDs3BpYSBkZXNzYSBzdWJtaXNzw6NvIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrLXVwIGUgcHJlc2VydmHDp8OjbyBkaWdpdGFsLgoKRGVjbGFyYSBxdWUgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgc2V1IHRyYWJhbGhvIG9yaWdpbmFsLCBlIHF1ZSB2b2PDqiB0ZW0gbyBkaXJlaXRvIGRlIGNvbmNlZGVyIG9zIGRpcmVpdG9zIGNvbnRpZG9zIG5lc3RhIGxpY2Vuw6dhLiBWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIGEgc3VhIGFwcmVzZW50YcOnw6NvLCBjb20gbyBtZWxob3IgZGUgc2V1cyBjb25oZWNpbWVudG9zLCBuw6NvIGluZnJpbmdpIGRpcmVpdG9zIGF1dG9yYWlzIGRlIHRlcmNlaXJvcy4KClNlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIGNvbnTDqW0gbWF0ZXJpYWwgZG8gcXVhbCB2b2PDqiBuw6NvIHRlbSBkaXJlaXRvcyBkZSBhdXRvciwgZGVjbGFyYSBxdWUgb2J0ZXZlIGEgcGVybWlzc8OjbyBpcnJlc3RyaXRhIGRvIGRldGVudG9yIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBlIGNvbmNlZGUgYSBVRlJKIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgZGUgcHJvcHJpZWRhZGUgZGUgdGVyY2Vpcm9zIGVzdMOhIGNsYXJhbWVudGUgaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3UgY29udGXDumRvIGRhIHN1Ym1pc3PDo28uCgpTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSDDqSBiYXNlYWRvIGVtIHRyYWJhbGhvIHF1ZSBmb2ksIG91IHRlbSBzaWRvIHBhdHJvY2luYWRvIG91IGFwb2lhZG8gcG9yIHVtYSBhZ8OqbmNpYSBvdSBvdXRybyhzKSBvcmdhbmlzbW8ocykgcXVlIG7Do28gYSBVRlJKLCB2b2PDqiBkZWNsYXJhIHF1ZSBjdW1wcml1IHF1YWxxdWVyIGRpcmVpdG8gZGUgUkVWSVPDg08gb3UgZGUgb3V0cmFzIG9icmlnYcOnw7VlcyByZXF1ZXJpZGFzIHBvciBjb250cmF0byBvdSBhY29yZG8uCgpBIFVGUkogaXLDoSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8ocykgc2V1KHMpIG5vbWUocykgY29tbyBhdXRvcihlcykgb3UgcHJvcHJpZXTDoXJpbyhzKSBkYSBzdWJtaXNzw6NvLCBlIG7Do28gZmFyw6EgcXVhbHF1ZXIgYWx0ZXJhw6fDo28sIHBhcmEgYWzDqW0gZGFzIHBlcm1pdGlkYXMgcG9yIGVzdGEgbGljZW7Dp2EsIG5vIGF0byBkZSBzdWJtaXNzw6NvLgo=Repositório de PublicaçõesPUBhttp://www.pantheon.ufrj.br/oai/requestopendoar:2021-04-08T03:00:08Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)false
dc.title.en.fl_str_mv A study of LMS-based algorithms: exploiting plain and hidden sparsity
dc.title.alternative.pt_BR.fl_str_mv Um estudo de algoritmos baseados em LMS: explorando esparsidade simples e escondida
title A study of LMS-based algorithms: exploiting plain and hidden sparsity
spellingShingle A study of LMS-based algorithms: exploiting plain and hidden sparsity
Chaves, Gabriel da Silva
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::SISTEMAS ELETRICOS DE POTENCIA
Adaptive filtering
Sparsity
LMS-based algorithms
Proportionate-type family
Feature matrix
Discard function
title_short A study of LMS-based algorithms: exploiting plain and hidden sparsity
title_full A study of LMS-based algorithms: exploiting plain and hidden sparsity
title_fullStr A study of LMS-based algorithms: exploiting plain and hidden sparsity
title_full_unstemmed A study of LMS-based algorithms: exploiting plain and hidden sparsity
title_sort A study of LMS-based algorithms: exploiting plain and hidden sparsity
author Chaves, Gabriel da Silva
author_facet Chaves, Gabriel da Silva
author_role author
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/2937113853259682
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/3503334218721703
dc.contributor.advisorCo1.none.fl_str_mv Ferreira, Tadeu Nagashima
dc.contributor.advisorCo1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/3756829511114463
dc.contributor.author.fl_str_mv Chaves, Gabriel da Silva
dc.contributor.referee1.fl_str_mv Haddad, Diego Barreto
dc.contributor.referee2.fl_str_mv Nose Filho, Kenji
dc.contributor.advisor1.fl_str_mv Lima, Markus Vinícius Santos
contributor_str_mv Haddad, Diego Barreto
Nose Filho, Kenji
Lima, Markus Vinícius Santos
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::SISTEMAS ELETRICOS DE POTENCIA
topic CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA::SISTEMAS ELETRICOS DE POTENCIA
Adaptive filtering
Sparsity
LMS-based algorithms
Proportionate-type family
Feature matrix
Discard function
dc.subject.eng.fl_str_mv Adaptive filtering
Sparsity
LMS-based algorithms
Proportionate-type family
Feature matrix
Discard function
description Nas últimas décadas, os filtros adaptativos foram empregados em diferentes aplicações. O foco dessa dissertação é em uma aplicação em particular: identificação de sistemas que apresentam alguma esparsidade. Um sistema é esparso quando ele pode ser representado por poucos coeficientes em algum domínio. Este trabalho aborda os seguintes tipos de esparsidade: a simples e a escondida. A simples é bastante conhecida em filtragem adaptativa e ocorre quando é possível observar a esparsidade sem nenhuma manipulação matemática. Por conta da sua importância, duas famílias de algoritmos foram criadas com o intuito de explorá-la. A ideia proporcional tenta explorar a esparsidade ao atribuir tamanho de passo únicos para cada coeficiente. Enquanto a família dos algoritmos regularizados usam funções promotoras de esparsidade. Considerando que os algoritmos proporcionais não modelam a esparsidade explicitamente, esse trabalho realiza um estudo aprofundado dessa família, apresentando algumas propriedades ainda não documentadas. Para isso, resultados numéricos foram apresentados, concluindo-se que os algoritmos proporcionais exploram algo mais geral que a esparsidade. A esparsidade escondida é mais recente em filtragem adaptativa e requer manipulações matemáticas para revelar a esparsidade dosistema. O algoritmo feature least-mean-square (F-LMS) resolve esse problema ao introduzir a matriz de features. Entretanto, existem muitas aplicações que possuem os dois tipos de esparsidade, e o algoritmo F-LMS não explorá-la simples. Com isso, foi proposto o algoritmo simple sparsity-aware F-LMS(SSF-LMS), o qual explora ambos os tipos de esparsidade enquanto realiza menos operações aritméticas, ao usar a função de descarte.
publishDate 2019
dc.date.issued.fl_str_mv 2019-08
dc.date.accessioned.fl_str_mv 2021-04-06T17:41:14Z
dc.date.available.fl_str_mv 2021-04-08T03:00:08Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11422/14106
url http://hdl.handle.net/11422/14106
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Elétrica
dc.publisher.initials.fl_str_mv UFRJ
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRJ
instname:Universidade Federal do Rio de Janeiro (UFRJ)
instacron:UFRJ
instname_str Universidade Federal do Rio de Janeiro (UFRJ)
instacron_str UFRJ
institution UFRJ
reponame_str Repositório Institucional da UFRJ
collection Repositório Institucional da UFRJ
bitstream.url.fl_str_mv http://pantheon.ufrj.br:80/bitstream/11422/14106/2/license.txt
http://pantheon.ufrj.br:80/bitstream/11422/14106/1/GabrielDaSilvaChaves.pdf
bitstream.checksum.fl_str_mv dd32849f2bfb22da963c3aac6e26e255
69da93f86e56b59c7e6cdf09e52ed8a3
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)
repository.mail.fl_str_mv
_version_ 1766886505102442496