Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal

Detalhes bibliográficos
Ano de defesa: 2017
Autor(a) principal: Fonseca, José de Ribamar Silva lattes
Orientador(a): BARROS FILHO, Allan Kardec Duailibe
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal do Maranhão
Programa de Pós-Graduação: PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA DE ELETRICIDADE/CCET
Departamento: DEPARTAMENTO DE ENGENHARIA DA ELETRICIDADE/CCET
País: Brasil
Palavras-chave em Português:
Palavras-chave em Inglês:
Área do conhecimento CNPq:
Link de acesso: http://tedebc.ufma.br:8080/jspui/handle/tede/1742
Resumo: The adaptive filtering is currently an important tool in the statistical processing of signals, especially when it is necessary to process signals from environments with unknown statistics varying with time. The adaptive filtering study was driven by the development of the Least Mean Square algorithm (LMS) in 1960. Since then other adaptive algorithms have come up with a better performance than LMS algorithm with respect to misadjustment and convergence rate. Among them, the Sigmoidal algorithm (SA) which showed superior to the LMS, for the convergence rate and the mismatch in their implementations infinite precision. In hardware devices such as DSPs, microcontrollers and FPGAs, adaptive algorithms are implemented in finite precision, in general, fixed point arithmetic. When the adaptive filters are implemented in finite precision some effects can affect their performance. Ultimately lead to divergence due to quantization errors specified in the approximation process of the variables involved in the adaptive processing of their original values. Thus, this article aims to analyze the performance of the adaptive algorithm Sigmoidal (SA) in finite precision when implemented using fixed-point arithmetic. In particular, the analysis of its performance curve and mismatch, comparing them in different word lengths (number of bits). The results presented in this article proposes a series of Taylor Ln gradient of cost function (cosh αe) algorithm SA for implementation in finite precision. We analyze its performance curve for different lengths of words. It shows that the algorithm is stable in its performance compared to convergence to different lengths of words, and that the increase in mismatch level at steady state is sensitive or afected by the quantization of the variables involved in the calculations of this algorithm.
id UFMA_ae8795661732b0ea44f35c04efd3c1f1
oai_identifier_str oai:tede2:tede/1742
network_acronym_str UFMA
network_name_str Biblioteca Digital de Teses e Dissertações da UFMA
repository_id_str
spelling BARROS FILHO, Allan Kardec Duailibe340.225.893-53Cavalcante, André Borges006.407.643-12014.514.833-50http://lattes.cnpq.br/4169502684854479Fonseca, José de Ribamar Silva2017-07-18T17:58:49Z2017-02-16FONSECA, José de Ribamar Silva. Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal. 2017. 64 f. Dissertação (Mestrado em Engenharia de Eletricidade) - Universidade Federal do Maranhão, São Luís, 2017.http://tedebc.ufma.br:8080/jspui/handle/tede/1742The adaptive filtering is currently an important tool in the statistical processing of signals, especially when it is necessary to process signals from environments with unknown statistics varying with time. The adaptive filtering study was driven by the development of the Least Mean Square algorithm (LMS) in 1960. Since then other adaptive algorithms have come up with a better performance than LMS algorithm with respect to misadjustment and convergence rate. Among them, the Sigmoidal algorithm (SA) which showed superior to the LMS, for the convergence rate and the mismatch in their implementations infinite precision. In hardware devices such as DSPs, microcontrollers and FPGAs, adaptive algorithms are implemented in finite precision, in general, fixed point arithmetic. When the adaptive filters are implemented in finite precision some effects can affect their performance. Ultimately lead to divergence due to quantization errors specified in the approximation process of the variables involved in the adaptive processing of their original values. Thus, this article aims to analyze the performance of the adaptive algorithm Sigmoidal (SA) in finite precision when implemented using fixed-point arithmetic. In particular, the analysis of its performance curve and mismatch, comparing them in different word lengths (number of bits). The results presented in this article proposes a series of Taylor Ln gradient of cost function (cosh αe) algorithm SA for implementation in finite precision. We analyze its performance curve for different lengths of words. It shows that the algorithm is stable in its performance compared to convergence to different lengths of words, and that the increase in mismatch level at steady state is sensitive or afected by the quantization of the variables involved in the calculations of this algorithm.A filtragem adaptativa constitui atualmente uma ferramenta importante no processamento estatístico de sinais, especialmente quando é necessário processar sinais provenientes de ambientes com estatísticas desconhecidas que variam com o tempo. O estudo de filtragem adaptativa foi impulsionado com o desenvolvimento do algoritmo Least Mean Square (LMS) em 1960. Desde então outros algoritmos adaptativos têm surgido com um desempenho superior ao algoritmo LMS em relação ao desajuste e à taxa de convergência. Entre eles, o algoritmo Sigmoidal (SA) que se apresentou superior ao LMS, em relação a taxa de convergência e o desajuste em suas implementações na forma analógica. Nos dispositivos de hardware, tais como DSPs, Microcontroladores e FPGAs, os algoritmos adaptativos são implementados na forma digital, onde a precisão é finita, em geral, com aritmética de ponto fixo. Quando os filtros adaptativos são implementados em precisão finita alguns efeitos podem afetar o seu desempenho. Em última análise, levar à divergência devido aos erros de quantização especificados no processo de aproximação dos valores das variáveis envolvidas no processamento adaptativo de seus valores originais. Assim, este trabalho propõe analisar o desempenho do algoritmo adaptativo Sigmoidal (SA) em precisão nita, quando implementado utilizando aritmética de ponto xo. Em particular, a análise de sua curva de desempenho e o desajuste, comparando-os em diferentes comprimentos de palavras (número de bits). Os resultados apresentados neste trabalho propõe uma aproximação em série de Taylor do gradiente da função de custo Ln(cosh αe) do algoritmo SA para implementação em precisão finita. Analisamos a sua curva de desempenho para diferentes comprimentos de palavras. Mostra-se que o algoritmo apresenta estabilidade em seu desempenho em relação à convergência, para diferentes comprimentos de palavras, e que o aumento no nível do desajuste em estado estacionário é sensível ou influenciado pela quantização dos valores das variáveis envolvidas nos cálculos desse algoritmo.Submitted by Rosivalda Pereira (mrs.pereira@ufma.br) on 2017-07-18T17:58:49Z No. of bitstreams: 1 JoseRibamarFonseca.pdf: 2069580 bytes, checksum: 26f5e4becf41e81d4359f2bc5df171fa (MD5)Made available in DSpace on 2017-07-18T17:58:49Z (GMT). No. of bitstreams: 1 JoseRibamarFonseca.pdf: 2069580 bytes, checksum: 26f5e4becf41e81d4359f2bc5df171fa (MD5) Previous issue date: 2017-02-16Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPQ)application/pdfporUniversidade Federal do MaranhãoPROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA DE ELETRICIDADE/CCETUFMABrasilDEPARTAMENTO DE ENGENHARIA DA ELETRICIDADE/CCETFiltros AdaptativosQuantizaçãoAritmética de Ponto-FixoSigmoidalAdaptive FiltersQuantizationFixed-Point ArithmeticSigmoidalMatemática da ComputaçãoAnálise do efeito da precisão finita no algoritmo adaptativo sigmoidalAnalysis of the effect of finite precision on the sigmoidal adaptive algorithminfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFMAinstname:Universidade Federal do Maranhão (UFMA)instacron:UFMAORIGINALJoseRibamarFonseca.pdfJoseRibamarFonseca.pdfapplication/pdf2069580http://tedebc.ufma.br:8080/bitstream/tede/1742/2/JoseRibamarFonseca.pdf26f5e4becf41e81d4359f2bc5df171faMD52LICENSElicense.txtlicense.txttext/plain; charset=utf-82255http://tedebc.ufma.br:8080/bitstream/tede/1742/1/license.txt97eeade1fce43278e63fe063657f8083MD51tede/17422017-12-07 13:57:17.857oai:tede2:tede/1742IExJQ0VOw4dBIERFIERJU1RSSUJVScOHw4NPIE7Dg08tRVhDTFVTSVZBCgpDb20gYSBhcHJlc2VudGHDp8OjbyBkZXN0YSBsaWNlbsOnYSxvIGF1dG9yIChlcykgb3UgbyB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBjb25jZWRlIMOgIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRvIE1hcmFuaMOjbyAoVUZNQSkgbyBkaXJlaXRvIG7Do28tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsIHRyYWR1emlyIChjb25mb3JtZSBkZWZpbmlkbyBhYmFpeG8pLCBlL291IGRpc3RyaWJ1aXIgYSBzdWEgdGVzZSBvdSBkaXNzZXJ0YcOnw6NvIChpbmNsdWluZG8gbyByZXN1bW8pIHBvciB0b2RvIG8gbXVuZG8gbm8gZm9ybWF0byBpbXByZXNzbyBlIGVsZXRyw7RuaWNvIGUgZW0gcXVhbHF1ZXIgbWVpbywgaW5jbHVpbmRvIG9zIGZvcm1hdG9zIMOhdWRpbyBvdSB2w61kZW8uCgpWb2PDqiBjb25jb3JkYSBxdWUgYSBVRk1BIHBvZGUsIHNlbSBhbHRlcmFyIG8gY29udGXDumRvLCB0cmFuc3BvciBhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gcGFyYSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gcGFyYSBmaW5zIGRlIHByZXNlcnZhw6fDo28uCgpWb2PDqiB0YW1iw6ltIGNvbmNvcmRhIHF1ZSBhIFVGTUEgcG9kZSBtYW50ZXIgbWFpcyBkZSB1bWEgY8OzcGlhIGRlIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gcGFyYSBmaW5zIGRlIHNlZ3VyYW7Dp2EsIGJhY2stdXAgZSBwcmVzZXJ2YcOnw6NvLgoKVm9jw6ogZGVjbGFyYSBxdWUgYSBzdWEgdGVzZSBvdSBkaXNzZXJ0YcOnw6NvIMOpIG9yaWdpbmFsIGUgcXVlIHZvY8OqIHRlbSBvIHBvZGVyIGRlIGNvbmNlZGVyIG9zIGRpcmVpdG9zIGNvbnRpZG9zIG5lc3RhIGxpY2Vuw6dhLiBWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIG8gZGVww7NzaXRvIGRhIHN1YSB0ZXNlIG91IGRpc3NlcnRhw6fDo28gbsOjbywgcXVlIHNlamEgZGUgc2V1IGNvbmhlY2ltZW50bywgaW5mcmluZ2UgZGlyZWl0b3MgYXV0b3JhaXMgZGUgbmluZ3XDqW0uCgpDYXNvIGEgc3VhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbyBjb250ZW5oYSBtYXRlcmlhbCBxdWUgdm9jw6ogbsOjbyBwb3NzdWkgYSB0aXR1bGFyaWRhZGUgZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCB2b2PDqiBkZWNsYXJhIHF1ZSBvYnRldmUgYSBwZXJtaXNzw6NvIGlycmVzdHJpdGEgZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY29uY2VkZXIgw6AgVUZNQSBvcyBkaXJlaXRvcyBhcHJlc2VudGFkb3MgbmVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgZGUgcHJvcHJpZWRhZGUgZGUgdGVyY2Vpcm9zIGVzdMOhIGNsYXJhbWVudGUgaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3Ugbm8gY29udGXDumRvIGRhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbyBvcmEgZGVwb3NpdGFkYS4KCkNBU08gQSBURVNFIE9VIERJU1NFUlRBw4fDg08gT1JBIERFUE9TSVRBREEgVEVOSEEgU0lETyBSRVNVTFRBRE8gREUgVU0gUEFUUk9Dw41OSU8gT1UgQVBPSU8gREUgVU1BIEFHw4pOQ0lBIERFIEZPTUVOVE8gT1UgT1VUUk8gT1JHQU5JU01PIFFVRSBOw4NPIFNFSkEgQSBVRk1BLCBWT0PDiiBERUNMQVJBIFFVRSBSRVNQRUlUT1UgVE9ET1MgRSBRVUFJU1FVRVIgRElSRUlUT1MgREUgUkVWSVPDg08gQ09NTyBUQU1Cw4lNIEFTIERFTUFJUyBPQlJJR0HDh8OVRVMgRVhJR0lEQVMgUE9SIENPTlRSQVRPIE9VIEFDT1JETy4KCkEgVUZNQSBzZSBjb21wcm9tZXRlIGEgaWRlbnRpZmljYXIgY2xhcmFtZW50ZSBvIHNldSBub21lIG91IG8ocykgbm9tZShzKSBkbyhzKSBkZXRlbnRvcihlcykgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRhIHRlc2Ugb3UgZGlzc2VydGHDp8OjbywgZSBuw6NvIGZhcsOhIHF1YWxxdWVyIGFsdGVyYcOnw6NvLCBhbMOpbSBkYXF1ZWxhcyBjb25jZWRpZGFzIHBvciBlc3RhIGxpY2Vuw6dhLgoKRGVjbGFyYSB0YW1iw6ltIHF1ZSB0b2RhcyBhcyBhZmlsaWHDp8O1ZXMgY29ycG9yYXRpdmFzIG91IGluc3RpdHVjaW9uYWlzIGUgdG9kYXMgYXMgZm9udGVzIGRlIGFwb2lvIGZpbmFuY2Vpcm8gYW8gdHJhYmFsaG8gZXN0w6NvIGRldmlkYW1lbnRlIGNpdGFkYXMgb3UgbWVuY2lvbmFkYXMgZSBjZXJ0aWZpY2EgcXVlIG7Do28gaMOhIG5lbmh1bSBpbnRlcmVzc2UgY29tZXJjaWFsIG91IGFzc29jaWF0aXZvIHF1ZSByZXByZXNlbnRlIGNvbmZsaXRvIGRlIGludGVyZXNzZSBlbSBjb25leMOjbyBjb20gbyB0cmFiYWxobyBzdWJtZXRpZG8uCgoKCgoKCgo=Biblioteca Digital de Teses e Dissertaçõeshttps://tedebc.ufma.br/jspui/PUBhttp://tedebc.ufma.br:8080/oai/requestrepositorio@ufma.br||repositorio@ufma.bropendoar:21312017-12-07T16:57:17Biblioteca Digital de Teses e Dissertações da UFMA - Universidade Federal do Maranhão (UFMA)false
dc.title.por.fl_str_mv Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
dc.title.alternative.eng.fl_str_mv Analysis of the effect of finite precision on the sigmoidal adaptive algorithm
title Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
spellingShingle Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
Fonseca, José de Ribamar Silva
Filtros Adaptativos
Quantização
Aritmética de Ponto-Fixo
Sigmoidal
Adaptive Filters
Quantization
Fixed-Point Arithmetic
Sigmoidal
Matemática da Computação
title_short Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
title_full Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
title_fullStr Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
title_full_unstemmed Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
title_sort Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal
author Fonseca, José de Ribamar Silva
author_facet Fonseca, José de Ribamar Silva
author_role author
dc.contributor.advisor1.fl_str_mv BARROS FILHO, Allan Kardec Duailibe
dc.contributor.advisor1ID.fl_str_mv 340.225.893-53
dc.contributor.advisor-co1.fl_str_mv Cavalcante, André Borges
dc.contributor.advisor-co1ID.fl_str_mv 006.407.643-12
dc.contributor.authorID.fl_str_mv 014.514.833-50
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/4169502684854479
dc.contributor.author.fl_str_mv Fonseca, José de Ribamar Silva
contributor_str_mv BARROS FILHO, Allan Kardec Duailibe
Cavalcante, André Borges
dc.subject.por.fl_str_mv Filtros Adaptativos
Quantização
Aritmética de Ponto-Fixo
topic Filtros Adaptativos
Quantização
Aritmética de Ponto-Fixo
Sigmoidal
Adaptive Filters
Quantization
Fixed-Point Arithmetic
Sigmoidal
Matemática da Computação
dc.subject.eng.fl_str_mv Sigmoidal
Adaptive Filters
Quantization
Fixed-Point Arithmetic
Sigmoidal
dc.subject.cnpq.fl_str_mv Matemática da Computação
description The adaptive filtering is currently an important tool in the statistical processing of signals, especially when it is necessary to process signals from environments with unknown statistics varying with time. The adaptive filtering study was driven by the development of the Least Mean Square algorithm (LMS) in 1960. Since then other adaptive algorithms have come up with a better performance than LMS algorithm with respect to misadjustment and convergence rate. Among them, the Sigmoidal algorithm (SA) which showed superior to the LMS, for the convergence rate and the mismatch in their implementations infinite precision. In hardware devices such as DSPs, microcontrollers and FPGAs, adaptive algorithms are implemented in finite precision, in general, fixed point arithmetic. When the adaptive filters are implemented in finite precision some effects can affect their performance. Ultimately lead to divergence due to quantization errors specified in the approximation process of the variables involved in the adaptive processing of their original values. Thus, this article aims to analyze the performance of the adaptive algorithm Sigmoidal (SA) in finite precision when implemented using fixed-point arithmetic. In particular, the analysis of its performance curve and mismatch, comparing them in different word lengths (number of bits). The results presented in this article proposes a series of Taylor Ln gradient of cost function (cosh αe) algorithm SA for implementation in finite precision. We analyze its performance curve for different lengths of words. It shows that the algorithm is stable in its performance compared to convergence to different lengths of words, and that the increase in mismatch level at steady state is sensitive or afected by the quantization of the variables involved in the calculations of this algorithm.
publishDate 2017
dc.date.accessioned.fl_str_mv 2017-07-18T17:58:49Z
dc.date.issued.fl_str_mv 2017-02-16
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv FONSECA, José de Ribamar Silva. Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal. 2017. 64 f. Dissertação (Mestrado em Engenharia de Eletricidade) - Universidade Federal do Maranhão, São Luís, 2017.
dc.identifier.uri.fl_str_mv http://tedebc.ufma.br:8080/jspui/handle/tede/1742
identifier_str_mv FONSECA, José de Ribamar Silva. Análise do efeito da precisão finita no algoritmo adaptativo sigmoidal. 2017. 64 f. Dissertação (Mestrado em Engenharia de Eletricidade) - Universidade Federal do Maranhão, São Luís, 2017.
url http://tedebc.ufma.br:8080/jspui/handle/tede/1742
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal do Maranhão
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA DE ELETRICIDADE/CCET
dc.publisher.initials.fl_str_mv UFMA
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv DEPARTAMENTO DE ENGENHARIA DA ELETRICIDADE/CCET
publisher.none.fl_str_mv Universidade Federal do Maranhão
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da UFMA
instname:Universidade Federal do Maranhão (UFMA)
instacron:UFMA
instname_str Universidade Federal do Maranhão (UFMA)
instacron_str UFMA
institution UFMA
reponame_str Biblioteca Digital de Teses e Dissertações da UFMA
collection Biblioteca Digital de Teses e Dissertações da UFMA
bitstream.url.fl_str_mv http://tedebc.ufma.br:8080/bitstream/tede/1742/2/JoseRibamarFonseca.pdf
http://tedebc.ufma.br:8080/bitstream/tede/1742/1/license.txt
bitstream.checksum.fl_str_mv 26f5e4becf41e81d4359f2bc5df171fa
97eeade1fce43278e63fe063657f8083
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da UFMA - Universidade Federal do Maranhão (UFMA)
repository.mail.fl_str_mv repositorio@ufma.br||repositorio@ufma.br
_version_ 1853507991227072512