A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados

Detalhes bibliográficos
Ano de defesa: 1978
Autor(a) principal: Ferreira, Luiz Eloi Pinto
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: https://teses.usp.br/teses/disponiveis/11/11134/tde-20240301-150552/
Resumo: A correta aplicação da análise de variância, requer que sejam atendidas algumas condições básicas. Dentre elas, está a de homocedesticidade, que estipula que os erros experimentais devem ter variâncias homogêneas. Neste trabalho, tratamos do caso em que, na análise de variância, não podemos considerar válida a hipótese de homocedasticidade. Para contornar o problema da falta de homogeneidade do erro experimental, estruturamos a decomposição do resíduo em componentes aplicáveis e apropriados as comparações (contrastes) de interesse. Empregamos o método das transformações lineares para mostrar a decomposição do resíduo. Examinamos dois casos, o de um experimento em blocos casualizados e o de uma análise conjunta de experimentos em blocos casualizados. Em ambos os casos considerados mostramos que cada componente do resíduo, conseguido através de transformações lineares, corresponde ao resíduo apropriado para testar um contraste do conjunto ortogonal, segundo o qual foi decomposta a soma de quadrados de tratamentos. Para experimentos em blocos casualizados, cujo modelo matemático é: (descrito na tese) obtivemos os quadrados médios residuais, específicos a cada contraste, conforme se segue: (descrito na tese) onde (descrito na tese) representa a estimativa do contraste Yh dentro do bloco j. No caso da análise conjunta de experimentos em blocos casualizados, consideramos o modelo matemático: (descrito na tese). Neste caso, o resíduo considerado para testar tratamentos é a interação tratamentos x locais (Txl), conforme justificamos através dos componentes de variância. Cada componente desta interação, correspondendo ao resíduo específico para testar um contraste Yh, é dado por: (descrito na tese) onde (descrito na tese) é a estimativa do contraste Yh no local k. Ficou evidenciado neste trabalho que, constatada a presença de heterocedasticidade, o teste F para contrastes, estruturado através do resíduo específico, tende a apresentar resultados diferentes dos obtidos pelo uso do resíduo médio. Outra conclusão que emana dos resultados numéricos é que, quando se faz a subdivisão do resíduo em componentes simples, ela se faz acompanhar de uma subdivisão do seu número de graus de liberdade, o que nos leva a recomendar cautela no uso deste método, devido à redução drástica do número de graus de liberdade para cada resíduo específico.
id USP_9dba28b68c19716db89b79c9b13494ae
oai_identifier_str oai:teses.usp.br:tde-20240301-150552
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str
spelling A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizadosANÁLISE DE VARIÂNCIADECOMPOSIÇÃO DO RESÍDUODELINEAMENTO EXPERIMENTALHETEROCEDASTICIDADEA correta aplicação da análise de variância, requer que sejam atendidas algumas condições básicas. Dentre elas, está a de homocedesticidade, que estipula que os erros experimentais devem ter variâncias homogêneas. Neste trabalho, tratamos do caso em que, na análise de variância, não podemos considerar válida a hipótese de homocedasticidade. Para contornar o problema da falta de homogeneidade do erro experimental, estruturamos a decomposição do resíduo em componentes aplicáveis e apropriados as comparações (contrastes) de interesse. Empregamos o método das transformações lineares para mostrar a decomposição do resíduo. Examinamos dois casos, o de um experimento em blocos casualizados e o de uma análise conjunta de experimentos em blocos casualizados. Em ambos os casos considerados mostramos que cada componente do resíduo, conseguido através de transformações lineares, corresponde ao resíduo apropriado para testar um contraste do conjunto ortogonal, segundo o qual foi decomposta a soma de quadrados de tratamentos. Para experimentos em blocos casualizados, cujo modelo matemático é: (descrito na tese) obtivemos os quadrados médios residuais, específicos a cada contraste, conforme se segue: (descrito na tese) onde (descrito na tese) representa a estimativa do contraste Yh dentro do bloco j. No caso da análise conjunta de experimentos em blocos casualizados, consideramos o modelo matemático: (descrito na tese). Neste caso, o resíduo considerado para testar tratamentos é a interação tratamentos x locais (Txl), conforme justificamos através dos componentes de variância. Cada componente desta interação, correspondendo ao resíduo específico para testar um contraste Yh, é dado por: (descrito na tese) onde (descrito na tese) é a estimativa do contraste Yh no local k. Ficou evidenciado neste trabalho que, constatada a presença de heterocedasticidade, o teste F para contrastes, estruturado através do resíduo específico, tende a apresentar resultados diferentes dos obtidos pelo uso do resíduo médio. Outra conclusão que emana dos resultados numéricos é que, quando se faz a subdivisão do resíduo em componentes simples, ela se faz acompanhar de uma subdivisão do seu número de graus de liberdade, o que nos leva a recomendar cautela no uso deste método, devido à redução drástica do número de graus de liberdade para cada resíduo específico.The correct use of the analysis of variance requires some basic conditions. One of them is homoscedasticity, which means that the experimental errors must have homogeneous variances. In this work we are dealing with the case the hypothesis of homoscedasticity of variances is not valid. In order to avoid the problem it was proposed the decomposition of the residual sum of squares into components applicable and appropriate to the comparisons (contrasts) of interest. It was applied the method of linear transformation to obtain the residual decomposition. Two cases were examined: a) an analysis of a randomized block design and, b) a pooled analysis of randomized block designs. In both cases, it was shown that each residual component obtained by linear transformation, corresponds to the appropriate residual for testing a contrast from the orthogonal set which has indicated the corresponding treatment sum of squares decomposition. For randomized block design which mathematical model is, (see thesis) the residual mean square specific to each contrast Yh is as follows, (see thesis) where (see thesis) stands for the estimate of the Yh contrast within the jth block. For the case of the pooled analysis of variance of randomized block designs we have considered the mathematical model: (see thesis). In this case the residual mean square considered to test the treatment effect is the Treatment x Local (TxL) interaction as we have show through the variance-component decomposition. The components of this interaction each corresponding to the specific residual to test a contrast Yh is given by (see thesis) where (see thesis) is the estimate of the Yh contrast in the kth local. It was shown in this work that under heterocedasticity of variances the “F” test for contrasts based on specific residuals gives different result when compared to the one based on the average mean square. Another conclusion which comes from the numerical results is that the decomposition of the residual sum of squares in to simple components implies a corresponding decomposition of its number of degrees of freedom so that we recommend caution when using the proposed method because of the drastic reduction of the number of degrees of freedom associated to each specific residual.Biblioteca Digitais de Teses e Dissertações da USPCampos, Humberto deFerreira, Luiz Eloi Pinto1978-11-24info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://teses.usp.br/teses/disponiveis/11/11134/tde-20240301-150552/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2024-03-14T13:56:07Zoai:teses.usp.br:tde-20240301-150552Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212024-03-14T13:56:07Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
title A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
spellingShingle A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
Ferreira, Luiz Eloi Pinto
ANÁLISE DE VARIÂNCIA
DECOMPOSIÇÃO DO RESÍDUO
DELINEAMENTO EXPERIMENTAL
HETEROCEDASTICIDADE
title_short A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
title_full A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
title_fullStr A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
title_full_unstemmed A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
title_sort A decomposição do resíduo em casos de heterocedasticidade nas análises de variância de ensaios em blocos casualizados
author Ferreira, Luiz Eloi Pinto
author_facet Ferreira, Luiz Eloi Pinto
author_role author
dc.contributor.none.fl_str_mv Campos, Humberto de
dc.contributor.author.fl_str_mv Ferreira, Luiz Eloi Pinto
dc.subject.por.fl_str_mv ANÁLISE DE VARIÂNCIA
DECOMPOSIÇÃO DO RESÍDUO
DELINEAMENTO EXPERIMENTAL
HETEROCEDASTICIDADE
topic ANÁLISE DE VARIÂNCIA
DECOMPOSIÇÃO DO RESÍDUO
DELINEAMENTO EXPERIMENTAL
HETEROCEDASTICIDADE
description A correta aplicação da análise de variância, requer que sejam atendidas algumas condições básicas. Dentre elas, está a de homocedesticidade, que estipula que os erros experimentais devem ter variâncias homogêneas. Neste trabalho, tratamos do caso em que, na análise de variância, não podemos considerar válida a hipótese de homocedasticidade. Para contornar o problema da falta de homogeneidade do erro experimental, estruturamos a decomposição do resíduo em componentes aplicáveis e apropriados as comparações (contrastes) de interesse. Empregamos o método das transformações lineares para mostrar a decomposição do resíduo. Examinamos dois casos, o de um experimento em blocos casualizados e o de uma análise conjunta de experimentos em blocos casualizados. Em ambos os casos considerados mostramos que cada componente do resíduo, conseguido através de transformações lineares, corresponde ao resíduo apropriado para testar um contraste do conjunto ortogonal, segundo o qual foi decomposta a soma de quadrados de tratamentos. Para experimentos em blocos casualizados, cujo modelo matemático é: (descrito na tese) obtivemos os quadrados médios residuais, específicos a cada contraste, conforme se segue: (descrito na tese) onde (descrito na tese) representa a estimativa do contraste Yh dentro do bloco j. No caso da análise conjunta de experimentos em blocos casualizados, consideramos o modelo matemático: (descrito na tese). Neste caso, o resíduo considerado para testar tratamentos é a interação tratamentos x locais (Txl), conforme justificamos através dos componentes de variância. Cada componente desta interação, correspondendo ao resíduo específico para testar um contraste Yh, é dado por: (descrito na tese) onde (descrito na tese) é a estimativa do contraste Yh no local k. Ficou evidenciado neste trabalho que, constatada a presença de heterocedasticidade, o teste F para contrastes, estruturado através do resíduo específico, tende a apresentar resultados diferentes dos obtidos pelo uso do resíduo médio. Outra conclusão que emana dos resultados numéricos é que, quando se faz a subdivisão do resíduo em componentes simples, ela se faz acompanhar de uma subdivisão do seu número de graus de liberdade, o que nos leva a recomendar cautela no uso deste método, devido à redução drástica do número de graus de liberdade para cada resíduo específico.
publishDate 1978
dc.date.none.fl_str_mv 1978-11-24
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://teses.usp.br/teses/disponiveis/11/11134/tde-20240301-150552/
url https://teses.usp.br/teses/disponiveis/11/11134/tde-20240301-150552/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1865492589228064768