Robust estimation in a multivariate normal regression model with general parameterization

Detalhes bibliográficos
Ano de defesa: 2025
Autor(a) principal: Canterle, Diego Ramos
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Tese
Tipo de acesso: Acesso aberto
Idioma: eng
Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: https://www.teses.usp.br/teses/disponiveis/45/45133/tde-13062025-131640/
Resumo: This work explores the use of a non-extensive q-entropy measure for parameter estimation in the multivariate normal regression model with general parameterization. This model encompasses a large class of regression models that includes mixed models, errors-in-variables models, nonlinear models, among others. The resulting estimator, called the maximum Lq-likelihood estimator, depends on a tuning parameter q that is chosen to improve inferential accuracy in the presence of outliers. We derive the quantities required to obtain the parameter estimates and the asymptotic variance and covariance matrix of the maximum Lq-likelihood estimator under this general class of models. Some of these quantities are explained in detail for three specific cases, namely, mixed models, errors-in-variables models, and nonlinear models. Although the maximum Lq-likelihood estimator may not be consistent, we obtain a new estimator that satisfies this property through a calibration function. Additionally, we also obtain another robust and consistent estimator that minimizes an empirical version of the density power divergence, called the minimum density power divergence estimator. To evaluate the performance of our proposal, we conduct Monte Carlo simulations in the absence and presence of outliers under finite samples. Finally, we apply our method to actual data.
id USP_6e887014eb9b0a3bccd927241cc81f3b
oai_identifier_str oai:teses.usp.br:tde-13062025-131640
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str
spelling Robust estimation in a multivariate normal regression model with general parameterizationEstimação robusta em um modelo de regressão normal multivariado com parametrização geralEstimação robustaGeneral parameterizationLq-likelihoodModelos de regressãoParametrização geralRegression modelsRobust estimationVerossimilhança LqThis work explores the use of a non-extensive q-entropy measure for parameter estimation in the multivariate normal regression model with general parameterization. This model encompasses a large class of regression models that includes mixed models, errors-in-variables models, nonlinear models, among others. The resulting estimator, called the maximum Lq-likelihood estimator, depends on a tuning parameter q that is chosen to improve inferential accuracy in the presence of outliers. We derive the quantities required to obtain the parameter estimates and the asymptotic variance and covariance matrix of the maximum Lq-likelihood estimator under this general class of models. Some of these quantities are explained in detail for three specific cases, namely, mixed models, errors-in-variables models, and nonlinear models. Although the maximum Lq-likelihood estimator may not be consistent, we obtain a new estimator that satisfies this property through a calibration function. Additionally, we also obtain another robust and consistent estimator that minimizes an empirical version of the density power divergence, called the minimum density power divergence estimator. To evaluate the performance of our proposal, we conduct Monte Carlo simulations in the absence and presence of outliers under finite samples. Finally, we apply our method to actual data.Este trabalho explora o uso da medida de q-entropia não extensiva para a estimação de parâmetros no modelo de regressão normal multivariado com parametrização geral. Esse modelo abrange uma ampla classe de modelos de regressão, incluindo modelos mistos, modelos com erros nas variáveis, modelos não lineares, entre outros. O estimador resultante, denominado estimador de máxima verossimilhança Lq, depende de um parâmetro de afinação q, escolhido para melhorar a precisão inferencial na presença de outliers. Derivamos as quantidades necessárias para obter o estimador dos parâmetros e a matriz de variância e covariância assintótica do estimador de máxima verossimilhança Lq sob essa classe geral de modelos. Algumas dessas quantidades são detalhadas para três casos específicos: modelos mistos, modelos com erros nas variáveis e modelos não lineares. Embora o estimador de máxima verossimilhança Lq possa ser inconsistente, neste trabalho encontramos um novo estimador que satisfaça a propriedade de consistência por meio de uma função de calibração. Também obtemos outro estimador consistente e robusto que minimiza uma versão empírica da divergência potência entre densidades, denominado estimador de mínima divergência potência entre densidades. Para avaliar o desempenho da nossa proposta, conduzimos simulações de Monte Carlo na ausência e na presença de outliers em amostras finitas. Finalmente, aplicamos nosso método a dados reais.Biblioteca Digitais de Teses e Dissertações da USPPatriota, Alexandre GalvãoCanterle, Diego Ramos2025-06-04info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/45/45133/tde-13062025-131640/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPReter o conteúdo por motivos de patente, publicação e/ou direitos autoriais.info:eu-repo/semantics/openAccesseng2025-06-16T17:53:33Zoai:teses.usp.br:tde-13062025-131640Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212025-06-16T17:53:33Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Robust estimation in a multivariate normal regression model with general parameterization
Estimação robusta em um modelo de regressão normal multivariado com parametrização geral
title Robust estimation in a multivariate normal regression model with general parameterization
spellingShingle Robust estimation in a multivariate normal regression model with general parameterization
Canterle, Diego Ramos
Estimação robusta
General parameterization
Lq-likelihood
Modelos de regressão
Parametrização geral
Regression models
Robust estimation
Verossimilhança Lq
title_short Robust estimation in a multivariate normal regression model with general parameterization
title_full Robust estimation in a multivariate normal regression model with general parameterization
title_fullStr Robust estimation in a multivariate normal regression model with general parameterization
title_full_unstemmed Robust estimation in a multivariate normal regression model with general parameterization
title_sort Robust estimation in a multivariate normal regression model with general parameterization
author Canterle, Diego Ramos
author_facet Canterle, Diego Ramos
author_role author
dc.contributor.none.fl_str_mv Patriota, Alexandre Galvão
dc.contributor.author.fl_str_mv Canterle, Diego Ramos
dc.subject.por.fl_str_mv Estimação robusta
General parameterization
Lq-likelihood
Modelos de regressão
Parametrização geral
Regression models
Robust estimation
Verossimilhança Lq
topic Estimação robusta
General parameterization
Lq-likelihood
Modelos de regressão
Parametrização geral
Regression models
Robust estimation
Verossimilhança Lq
description This work explores the use of a non-extensive q-entropy measure for parameter estimation in the multivariate normal regression model with general parameterization. This model encompasses a large class of regression models that includes mixed models, errors-in-variables models, nonlinear models, among others. The resulting estimator, called the maximum Lq-likelihood estimator, depends on a tuning parameter q that is chosen to improve inferential accuracy in the presence of outliers. We derive the quantities required to obtain the parameter estimates and the asymptotic variance and covariance matrix of the maximum Lq-likelihood estimator under this general class of models. Some of these quantities are explained in detail for three specific cases, namely, mixed models, errors-in-variables models, and nonlinear models. Although the maximum Lq-likelihood estimator may not be consistent, we obtain a new estimator that satisfies this property through a calibration function. Additionally, we also obtain another robust and consistent estimator that minimizes an empirical version of the density power divergence, called the minimum density power divergence estimator. To evaluate the performance of our proposal, we conduct Monte Carlo simulations in the absence and presence of outliers under finite samples. Finally, we apply our method to actual data.
publishDate 2025
dc.date.none.fl_str_mv 2025-06-04
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/45/45133/tde-13062025-131640/
url https://www.teses.usp.br/teses/disponiveis/45/45133/tde-13062025-131640/
dc.language.iso.fl_str_mv eng
language eng
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Reter o conteúdo por motivos de patente, publicação e/ou direitos autoriais.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Reter o conteúdo por motivos de patente, publicação e/ou direitos autoriais.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1844786334519001088