Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico

Detalhes bibliográficos
Ano de defesa: 2025
Autor(a) principal: Manoel, Iuri dos Santos lattes
Outros Autores: https://orcid.org/0000-0002-2018-309X
Orientador(a): Fernandes, Tales Jesus
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Lavras
Instituto de Ciências Exatas e Tecnológicas (ICET)
Programa de Pós-Graduação: Programa de Pós-Graduação em Estatística e Experimentação Agropecuária
Departamento: Departamento de Estatística
País: brasil
Palavras-chave em Português:
Área do conhecimento CNPq:
Link de acesso: https://repositorio.ufla.br/handle/1/60178
Resumo: In data analysis, it is common to use statistical models to describe the relationship between the variables under study. However, when there are outliers in the sample set, the estimates of the model parameters may be biased. Therefore, the detection and appropriate treatment of outliers is essential to ensure representative results. In this context, robust methods can be a solution for dealing with outliers, as theys can mitigate the effects that these values have on estimates of interest. Among the diversity of robust methodologies disseminated in the literature, the robust methods Jackknife and Least Trimmed Squares (LTS) stand out. These methods are efficient and versatile in selecting sample subsets with fewer outliers than the sample set. This allows selecting a proportion of the sample that best represents it. In view of the above, this work aims to propose innovative robust methodologies applied to the description of growth curves. These methods are presented in three chapters in which the proposal is to obtain an adjustment of the nonlinear logistic model that best represents the data set. In the first chapter, the Jackknife resampling method is implemented by considering estimates for the kurtosis coefficient as a selection criterion. In the second chapter, the LTS method is implemented by considering sample partitions to select values according to the sum of squared deviations (SSD). It is worth noting that in these first two chapters the proposed methodologies are applied to the description of a set of simulated data via Monte Carlo. Finally, in the third chapter both methods are applied to the description of a set of real data. The data are from rabbit farming and come from the Department of Animal Science of the Federal University of Lavras. The observed measurements are the weight and length of the front paw of the rabbits. For the implementation of the methodologies, a breaking point is considered as a criterion to determine the size of the subsets selected for the adjustment. In addition, the comparison between adjustments is made by the mean absolute deviation (MAD). The methodologies proposed in this work are promising in adjusting the Logistic model in the description of growth curves, with the LTS method presenting better results than the Jackknife method. The break point and the MAD are appropriate as criteria to determine the size of the sample subset and comparison between the adjustments, respectively.
id UFLA_21e523e9727de255b0e3d54b4fe32f41
oai_identifier_str oai:repositorio.ufla.br:1/60178
network_acronym_str UFLA
network_name_str Repositório Institucional da UFLA
repository_id_str
spelling Cirillo, Marcelo ÂngeloMuniz, Joel AugustoSouza, Tadeu Vilela deAbreu, Rodrigo Ferreira deFernandes, Tales Jesushttp://lattes.cnpq.br/0274452253165044Manoel, Iuri dos Santoshttps://orcid.org/0000-0002-2018-309X2025-08-15T11:55:29Z2025-03-06MANOEL, Iuri dos Santos. Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico. 2025. 98 f. Tese (Doutorado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2025.https://repositorio.ufla.br/handle/1/60178In data analysis, it is common to use statistical models to describe the relationship between the variables under study. However, when there are outliers in the sample set, the estimates of the model parameters may be biased. Therefore, the detection and appropriate treatment of outliers is essential to ensure representative results. In this context, robust methods can be a solution for dealing with outliers, as theys can mitigate the effects that these values have on estimates of interest. Among the diversity of robust methodologies disseminated in the literature, the robust methods Jackknife and Least Trimmed Squares (LTS) stand out. These methods are efficient and versatile in selecting sample subsets with fewer outliers than the sample set. This allows selecting a proportion of the sample that best represents it. In view of the above, this work aims to propose innovative robust methodologies applied to the description of growth curves. These methods are presented in three chapters in which the proposal is to obtain an adjustment of the nonlinear logistic model that best represents the data set. In the first chapter, the Jackknife resampling method is implemented by considering estimates for the kurtosis coefficient as a selection criterion. In the second chapter, the LTS method is implemented by considering sample partitions to select values according to the sum of squared deviations (SSD). It is worth noting that in these first two chapters the proposed methodologies are applied to the description of a set of simulated data via Monte Carlo. Finally, in the third chapter both methods are applied to the description of a set of real data. The data are from rabbit farming and come from the Department of Animal Science of the Federal University of Lavras. The observed measurements are the weight and length of the front paw of the rabbits. For the implementation of the methodologies, a breaking point is considered as a criterion to determine the size of the subsets selected for the adjustment. In addition, the comparison between adjustments is made by the mean absolute deviation (MAD). The methodologies proposed in this work are promising in adjusting the Logistic model in the description of growth curves, with the LTS method presenting better results than the Jackknife method. The break point and the MAD are appropriate as criteria to determine the size of the sample subset and comparison between the adjustments, respectively.Em análise de dados é comum utilizar modelos estatísticos para descrever a relação entre as variáveis em estudo. Entretanto, quando há outliers no conjunto amostral, as estimativas dos parâmetros do modelo podem ser tendenciosas. Desse modo, a detecção e tratamento adequado de outliers é imprescindível para garantir resultados representativos. Neste contexto, métodos robustos podem ser uma solução para lidar com outliers, pois podem mitigar os efeitos que esses valores têm em estimativas de interesse. Entre a diversidade de metodologias robustas difundidas na literatura, destaca-se os métodos robustos Jackknife e Least Trimmed Squares (LTS). Esses métodos são eficientes e versáteis na seleção de subconjuntos amostrais com menos outliers que o conjunto amostral. Isso permite selecionar uma proporção da amostra que a melhor representa. Diante do exposto, este trabalho tem como objetivo propor metodologias robustas inovadoras aplicadas na descrição de curvas de crescimento. Esses métodos estão apresentados em três capítulos em que a proposta é obter um ajuste do modelo não linear Logístico que melhor representa o conjunto de dados. No primeiro capítulo, o método de reamostragem Jackknife é implementado ao considerar estimativas para o coeficiente de curtose como critério de seleção. Já no segundo capítulo, o método LTS é implementado ao considerar partições da amostra para selecionar valores de acordo com a soma de quadrados dos desvios (SQD). Ressalta-se que nesses dois primeiros capítulos as metodologias propostas são aplicadas na descrição de um conjunto de dados simulados via Monte Carlo. Por fim, no terceiro capítulo ambos os métodos são aplicados na descrição de um conjunto de dados reais. Os dados são de cunicultura oriundos do Departamento de Zootecnia da Universidade Federal de Lavras. As medidas observadas são o peso e o comprimento da pata dianteira dos coelhos. Para a implementação das metodologias, é considerado um ponto de ruptura como critério para determinar o tamanho dos subconjuntos selecionados para o ajuste. Além disso, a comparação entre ajustes é feita pelo desvio médio absoluto (DMA). As metodologias propostas neste trabalho são promissoras em ajustes do modelo Logístico na descrição de curvas crescimento, sendo que o método LTS apresentou melhores resultados do que o método Jackknife. O ponto de ruptura e o DMA são apropriados como critérios para determinar o tamanho do subconjunto amostral e comparação entre os ajustes, respectivamente.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)TecnológicoEconômicosMeio ambienteTecnologia e produçãoODS 2: Fome zero e agricultura sustentávelODS 9: Indústria, inovação e infraestruturaODS 12: Consumo e produção responsáveisODS 15: Vida terrestreUniversidade Federal de LavrasInstituto de Ciências Exatas e Tecnológicas (ICET)Programa de Pós-Graduação em Estatística e Experimentação AgropecuáriaUFLAbrasilDepartamento de EstatísticaAttribution 3.0 Brazilhttp://creativecommons.org/licenses/by/3.0/br/info:eu-repo/semantics/openAccessCiências AgráriasMétodos estatísticosReamostragem (Estatística)Modelos não linearesAnálise de regressãoCoelhosStatistical methodsResampling (Statistics)Nonlinear modelsRegression analysisRabbitsUso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logísticoUse of robust methods for outlier treatment in the estimation of parameters of the logistic modelinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisporreponame:Repositório Institucional da UFLAinstname:Universidade Federal de Lavras (UFLA)instacron:UFLAORIGINALTexto completoTexto completoapplication/pdf1216073https://repositorio.ufla.br/bitstreams/c0f56319-7801-44af-b606-08a373a96ea3/download3397117687d6efd34b8c044463eb1debMD51trueAnonymousREADANEXO V.pdfANEXO V.pdfapplication/pdf199393https://repositorio.ufla.br/bitstreams/f89b5abf-81de-4cff-a845-71d5b3f59be5/download64b884c2e4ba8e22204107ca79455c4cMD52falseAnonymousREADCC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-81025https://repositorio.ufla.br/bitstreams/fe002d7d-721c-487f-8f3a-72a3607aef43/download5a033ee506f3a0a175bee8fc81f0bd66MD53falseAnonymousREADLICENSElicense.txtlicense.txttext/plain; charset=utf-8955https://repositorio.ufla.br/bitstreams/3cccce4f-ae50-4d63-b138-a8e3eb79acf2/downloaddc1a173fe9489e283d3a1f54f6ab2ab9MD54falseAnonymousREADTEXTTexto completo.txtTexto completo.txtExtracted texttext/plain104961https://repositorio.ufla.br/bitstreams/3a65b460-b9a7-4e6c-a73a-592efcaf0087/download373bb8f1e92c012b46c7876022749845MD55falseAnonymousREADANEXO V.pdf.txtANEXO V.pdf.txtExtracted texttext/plain6662https://repositorio.ufla.br/bitstreams/aadd1e8c-9299-4f16-8118-4d3405eeadef/downloadbfa84702125e577ea1e507f738cfb9deMD57falseAnonymousREADTHUMBNAILTexto completo.jpgTexto completo.jpgGenerated Thumbnailimage/jpeg3314https://repositorio.ufla.br/bitstreams/8d05d23f-8978-45f9-9e87-ebab939fce78/downloadd86fcbe0e2e06f925f3daf875e4331b8MD56falseAnonymousREADANEXO V.pdf.jpgANEXO V.pdf.jpgGenerated Thumbnailimage/jpeg5134https://repositorio.ufla.br/bitstreams/cfb6bfd2-4cf5-4553-a760-d0ba67ed64b3/download3bb3fb01f2dbadedbce9a68ef4e2c8e5MD58falseAnonymousREAD1/601782025-09-08 09:22:32.565http://creativecommons.org/licenses/by/3.0/br/Attribution 3.0 Brazilopen.accessoai:repositorio.ufla.br:1/60178https://repositorio.ufla.brRepositório InstitucionalPUBhttps://repositorio.ufla.br/server/oai/requestnivaldo@ufla.br || repositorio.biblioteca@ufla.bropendoar:2025-09-08T12:22:32Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)falseREVDTEFSQcOHw4NPIERFIERJU1RSSUJVScOHw4NPIE7Dg08tRVhDTFVTSVZBCk8gcmVmZXJpZG8gYXV0b3I6CgphKSBEZWNsYXJhIHF1ZSBvIGRvY3VtZW50byBlbnRyZWd1ZSDDqSBzZXUgdHJhYmFsaG8gb3JpZ2luYWwsIGUgcXVlIGRldMOpbSBvIGRpcmVpdG8gZGUgY29uY2VkZXIgb3MgZGlyZWl0b3MgY29udGlkb3MgbmVzdGEgbGljZW7Dp2EuIERlY2xhcmEgdGFtYsOpbSBxdWUgYSBlbnRyZWdhIGRvIGRvY3VtZW50byBuw6NvIGluZnJpbmdlLCB0YW50byBxdWFudG8gbGhlIMOpIHBvc3PDrXZlbCBzYWJlciwgb3MgZGlyZWl0b3MgZGUgcXVhbHF1ZXIgb3V0cmEgcGVzc29hIG91ICBlbnRpZGFkZS4KCmIpIFNlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIGNvbnTDqW0gbWF0ZXJpYWwgZG8gcXVhbCBuw6NvIGRldMOpbSBvcyBkaXJlaXRvcyBkZSBhdXRvciwgZGVjbGFyYSBxdWUgb2J0ZXZlIGF1dG9yaXphw6fDo28gZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIHBhcmEgY29uY2VkZXIgw6AgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgTGF2cmFzIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgY3Vqb3MgZGlyZWl0b3Mgc8OjbyBkZSB0ZXJjZWlyb3MgZXN0w6EgY2xhcmFtZW50ZSBpZGVudGlmaWNhZG8gZSByZWNvbmhlY2lkbwpubyB0ZXh0byBvdSBjb250ZcO6ZG8gZG8gZG9jdW1lbnRvIGVudHJlZ3VlLiBTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSDDqSBiYXNlYWRvIGVtIHRyYWJhbGhvIGZpbmFuY2lhZG8gb3UgYXBvaWFkbyBwb3Igb3V0cmEgaW5zdGl0dWnDp8OjbyBxdWUgbsOjbyBhIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIExhdnJhcywgZGVjbGFyYSBxdWUgY3VtcHJpdSBxdWFpc3F1ZXIgb2JyaWdhw6fDtWVzIGV4aWdpZGFzIHBlbG8gcmVzcGVjdGl2byBjb250cmF0byBvdSBhY29yZG8uCg==
dc.title.none.fl_str_mv Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
dc.title.alternative.none.fl_str_mv Use of robust methods for outlier treatment in the estimation of parameters of the logistic model
title Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
spellingShingle Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
Manoel, Iuri dos Santos
Ciências Agrárias
Métodos estatísticos
Reamostragem (Estatística)
Modelos não lineares
Análise de regressão
Coelhos
Statistical methods
Resampling (Statistics)
Nonlinear models
Regression analysis
Rabbits
title_short Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
title_full Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
title_fullStr Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
title_full_unstemmed Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
title_sort Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico
author Manoel, Iuri dos Santos
author_facet Manoel, Iuri dos Santos
https://orcid.org/0000-0002-2018-309X
author_role author
author2 https://orcid.org/0000-0002-2018-309X
author2_role author
dc.contributor.referee.none.fl_str_mv Cirillo, Marcelo Ângelo
Muniz, Joel Augusto
Souza, Tadeu Vilela de
Abreu, Rodrigo Ferreira de
dc.contributor.advisor1.fl_str_mv Fernandes, Tales Jesus
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/0274452253165044
dc.contributor.author.fl_str_mv Manoel, Iuri dos Santos
https://orcid.org/0000-0002-2018-309X
contributor_str_mv Fernandes, Tales Jesus
dc.subject.cnpq.fl_str_mv Ciências Agrárias
topic Ciências Agrárias
Métodos estatísticos
Reamostragem (Estatística)
Modelos não lineares
Análise de regressão
Coelhos
Statistical methods
Resampling (Statistics)
Nonlinear models
Regression analysis
Rabbits
dc.subject.por.fl_str_mv Métodos estatísticos
Reamostragem (Estatística)
Modelos não lineares
Análise de regressão
Coelhos
Statistical methods
Resampling (Statistics)
Nonlinear models
Regression analysis
Rabbits
description In data analysis, it is common to use statistical models to describe the relationship between the variables under study. However, when there are outliers in the sample set, the estimates of the model parameters may be biased. Therefore, the detection and appropriate treatment of outliers is essential to ensure representative results. In this context, robust methods can be a solution for dealing with outliers, as theys can mitigate the effects that these values have on estimates of interest. Among the diversity of robust methodologies disseminated in the literature, the robust methods Jackknife and Least Trimmed Squares (LTS) stand out. These methods are efficient and versatile in selecting sample subsets with fewer outliers than the sample set. This allows selecting a proportion of the sample that best represents it. In view of the above, this work aims to propose innovative robust methodologies applied to the description of growth curves. These methods are presented in three chapters in which the proposal is to obtain an adjustment of the nonlinear logistic model that best represents the data set. In the first chapter, the Jackknife resampling method is implemented by considering estimates for the kurtosis coefficient as a selection criterion. In the second chapter, the LTS method is implemented by considering sample partitions to select values according to the sum of squared deviations (SSD). It is worth noting that in these first two chapters the proposed methodologies are applied to the description of a set of simulated data via Monte Carlo. Finally, in the third chapter both methods are applied to the description of a set of real data. The data are from rabbit farming and come from the Department of Animal Science of the Federal University of Lavras. The observed measurements are the weight and length of the front paw of the rabbits. For the implementation of the methodologies, a breaking point is considered as a criterion to determine the size of the subsets selected for the adjustment. In addition, the comparison between adjustments is made by the mean absolute deviation (MAD). The methodologies proposed in this work are promising in adjusting the Logistic model in the description of growth curves, with the LTS method presenting better results than the Jackknife method. The break point and the MAD are appropriate as criteria to determine the size of the sample subset and comparison between the adjustments, respectively.
publishDate 2025
dc.date.accessioned.fl_str_mv 2025-08-15T11:55:29Z
dc.date.issued.fl_str_mv 2025-03-06
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv MANOEL, Iuri dos Santos. Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico. 2025. 98 f. Tese (Doutorado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2025.
dc.identifier.uri.fl_str_mv https://repositorio.ufla.br/handle/1/60178
identifier_str_mv MANOEL, Iuri dos Santos. Uso de métodos robustos para tratamento de outliers na estimação de parâmetros do modelo logístico. 2025. 98 f. Tese (Doutorado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2025.
url https://repositorio.ufla.br/handle/1/60178
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution 3.0 Brazil
http://creativecommons.org/licenses/by/3.0/br/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution 3.0 Brazil
http://creativecommons.org/licenses/by/3.0/br/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Lavras
Instituto de Ciências Exatas e Tecnológicas (ICET)
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Estatística e Experimentação Agropecuária
dc.publisher.initials.fl_str_mv UFLA
dc.publisher.country.fl_str_mv brasil
dc.publisher.department.fl_str_mv Departamento de Estatística
publisher.none.fl_str_mv Universidade Federal de Lavras
Instituto de Ciências Exatas e Tecnológicas (ICET)
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFLA
instname:Universidade Federal de Lavras (UFLA)
instacron:UFLA
instname_str Universidade Federal de Lavras (UFLA)
instacron_str UFLA
institution UFLA
reponame_str Repositório Institucional da UFLA
collection Repositório Institucional da UFLA
bitstream.url.fl_str_mv https://repositorio.ufla.br/bitstreams/c0f56319-7801-44af-b606-08a373a96ea3/download
https://repositorio.ufla.br/bitstreams/f89b5abf-81de-4cff-a845-71d5b3f59be5/download
https://repositorio.ufla.br/bitstreams/fe002d7d-721c-487f-8f3a-72a3607aef43/download
https://repositorio.ufla.br/bitstreams/3cccce4f-ae50-4d63-b138-a8e3eb79acf2/download
https://repositorio.ufla.br/bitstreams/3a65b460-b9a7-4e6c-a73a-592efcaf0087/download
https://repositorio.ufla.br/bitstreams/aadd1e8c-9299-4f16-8118-4d3405eeadef/download
https://repositorio.ufla.br/bitstreams/8d05d23f-8978-45f9-9e87-ebab939fce78/download
https://repositorio.ufla.br/bitstreams/cfb6bfd2-4cf5-4553-a760-d0ba67ed64b3/download
bitstream.checksum.fl_str_mv 3397117687d6efd34b8c044463eb1deb
64b884c2e4ba8e22204107ca79455c4c
5a033ee506f3a0a175bee8fc81f0bd66
dc1a173fe9489e283d3a1f54f6ab2ab9
373bb8f1e92c012b46c7876022749845
bfa84702125e577ea1e507f738cfb9de
d86fcbe0e2e06f925f3daf875e4331b8
3bb3fb01f2dbadedbce9a68ef4e2c8e5
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)
repository.mail.fl_str_mv nivaldo@ufla.br || repositorio.biblioteca@ufla.br
_version_ 1854947777822326784