Métodos para incorporação da dependência espacial na análise de dados experimentais

Detalhes bibliográficos
Ano de defesa: 2004
Autor(a) principal: Pilon, Ana Alice
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://teses.usp.br/teses/disponiveis/11/11134/tde-20190821-132929/
Resumo: A influência da heterogeneidade do solo na estimativa das diferenças entre os tratamentos é uma preocupação para os pesquisadores de campo. Na busca de alternativas para controlar esse fator e aumentar a precisão das comparações entre os tratamentos, o presente trabalho comparou a análise clássica ANOVA e alguns modelos espaciais que consideram a dependência no espaço entre as parcelas, levando em consideração suas posições geográficas na área experimental. Os modelos espaciais considerados no estudo foram: o modelo proposto por Papadakis, que consiste na adição de uma covariável construída a partir de observações em parcelas vizinhas, o modelo geoestatístico que consiste na adição de um efeito aleatório com correlação, dada por uma função da distância entre parcelas, e o modelo Markoviano que adiciona um efeito aleatório obtido a partir de observações em parcelas vizinhas. Os modelos foram ajustados a dados provenientes de dois ensaios em branco obtidos da literatura, aos quais foram adicionados efeitos arbitrários de tratamentos segundo delineamento inteiramente casualizado. Os efeitos dos tratamentos foram arbitrariamente adicionados a fim de simular um experimento real com o propósito de demonstração, para comparar a análise clássica (ANOVA) e os modelos espaciais. Nestas análises foi verificado que para os dados do ensaio em branco com 25 parcelas o modelo Markoviano forneceu maior precisão às estimativas dos contrastes entre os tratamentos, com grande diferença em relação aos resultados obtidos pelos demais modelos. Para o ensaio em branco, com 225 parcelas, o modelo Markoviano também foi o mais eficiente, porém, seus resultados foram próximos aos obtidos pelos outros modelos. O modelo geoestatístico junto aos métodos de estimação de máxima verossimilhança e máxima verossimilhança restrita foi o segundo melhor entre os modelos espaciais. Para a investigação dos resultados obtidos nos ajustes dos modelos aos dados dos ensaios em branco, foram realizadas simulações com alta, média e baixa dependência espacial entre as parcelas em condições experimentais similares aos dois conjuntos de dados investigados. Os resultados indicaram que os modelos espaciais oferecem uma maior precisão às estimativas dos contrastes entre as médias dos tratamentos, quando comparados à análise clássica, e o modelo geoestatístico junto aos métodos de estimação de parâmetros de máxima verossimilhança e de máxima verossimilhança restrita, foi na maioria das vezes o mais eficiente. O modelo Markoviano, em alguns casos, apresentou resultados mais precisos do que o geoestatístico, porém não foi suficientemente explorado nesse estudo sendo ainda mais trabalhoso do ponto de vista computacional. A fim de investigar se os efeitos dos tratamentos podem ser confundidos com a variação local, foi realizada uma simulação com 5000 diferentes aleatorizações dos efeitos de tratamentos aos dados do ensaio em branco com 25 parcelas, cujos resultados indicaram que os modelos espaciais oferecem estimativas mais precisas aos contrastes entre os tratamentos em comparação à análise clássica ANOVA
id USP_91c3ada0d778da9bab1f806a25d5a703
oai_identifier_str oai:teses.usp.br:tde-20190821-132929
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str
spelling Métodos para incorporação da dependência espacial na análise de dados experimentaisMethods to incorporation of spatial dependency in analysis of experiments datasANÁLISE DE DADOSDELINEAMENTO EXPERIMENTALESTATÍSTICAS ESPACIAISGEOESTATÍSTICAMODELOS MATEMÁTICOSA influência da heterogeneidade do solo na estimativa das diferenças entre os tratamentos é uma preocupação para os pesquisadores de campo. Na busca de alternativas para controlar esse fator e aumentar a precisão das comparações entre os tratamentos, o presente trabalho comparou a análise clássica ANOVA e alguns modelos espaciais que consideram a dependência no espaço entre as parcelas, levando em consideração suas posições geográficas na área experimental. Os modelos espaciais considerados no estudo foram: o modelo proposto por Papadakis, que consiste na adição de uma covariável construída a partir de observações em parcelas vizinhas, o modelo geoestatístico que consiste na adição de um efeito aleatório com correlação, dada por uma função da distância entre parcelas, e o modelo Markoviano que adiciona um efeito aleatório obtido a partir de observações em parcelas vizinhas. Os modelos foram ajustados a dados provenientes de dois ensaios em branco obtidos da literatura, aos quais foram adicionados efeitos arbitrários de tratamentos segundo delineamento inteiramente casualizado. Os efeitos dos tratamentos foram arbitrariamente adicionados a fim de simular um experimento real com o propósito de demonstração, para comparar a análise clássica (ANOVA) e os modelos espaciais. Nestas análises foi verificado que para os dados do ensaio em branco com 25 parcelas o modelo Markoviano forneceu maior precisão às estimativas dos contrastes entre os tratamentos, com grande diferença em relação aos resultados obtidos pelos demais modelos. Para o ensaio em branco, com 225 parcelas, o modelo Markoviano também foi o mais eficiente, porém, seus resultados foram próximos aos obtidos pelos outros modelos. O modelo geoestatístico junto aos métodos de estimação de máxima verossimilhança e máxima verossimilhança restrita foi o segundo melhor entre os modelos espaciais. Para a investigação dos resultados obtidos nos ajustes dos modelos aos dados dos ensaios em branco, foram realizadas simulações com alta, média e baixa dependência espacial entre as parcelas em condições experimentais similares aos dois conjuntos de dados investigados. Os resultados indicaram que os modelos espaciais oferecem uma maior precisão às estimativas dos contrastes entre as médias dos tratamentos, quando comparados à análise clássica, e o modelo geoestatístico junto aos métodos de estimação de parâmetros de máxima verossimilhança e de máxima verossimilhança restrita, foi na maioria das vezes o mais eficiente. O modelo Markoviano, em alguns casos, apresentou resultados mais precisos do que o geoestatístico, porém não foi suficientemente explorado nesse estudo sendo ainda mais trabalhoso do ponto de vista computacional. A fim de investigar se os efeitos dos tratamentos podem ser confundidos com a variação local, foi realizada uma simulação com 5000 diferentes aleatorizações dos efeitos de tratamentos aos dados do ensaio em branco com 25 parcelas, cujos resultados indicaram que os modelos espaciais oferecem estimativas mais precisas aos contrastes entre os tratamentos em comparação à análise clássica ANOVASoil heterogeneity's influence on the estimation of the treatment differences is one of the researcher's concerns in this field. The aim of this work is to find alternatives methods to control this problem. This work compares classical ANOVA to some other spatial models which consider the spatial dependence between plots according to their geographical position on the experimental area. Three spatial models were considered: firstly, the model proposed by Papadakis, which adds a covariate derived from observations in neighbours' plots. Secondly, a geostatistical model which includes a random effect with correlation given by a function of the distance between plots, and finally, a Markov model which includes a random effect derived from observations in neighbours' plots. The models were fit to two set of real data, derived from uniformity trials with treatments arbitrary effects added randomly. Treatments arbitrary effects were added to the real data to simulate a real experiment for the purposes demonstration, and to evaluate the classical ANOVA and spatial methods. In these analysis, the Markov model produced more precise estimates of the contrast between treatments, within a dataset of 25 plots. The difference between the models decreased as the dataset size increased, and for a dataset consisting of 225 plots the results were very similar. To investigate the results obtained from the models, data with three different levels of spatial dependence between plots were simulated, reproducing the experimental conditions of the two uniformity trials. The results indicated that spatial models are more precise in the estimation of the treatment effects when compared to the classical ANOVA, and in particular most of the times the geostatistical model together with maximum likelihood and restricted maximum likelihood estimation was the most efficient. The Markov model provided more precise results in some cases, but it was not deeply investigated in this study because it is too computationally demanding. In order to exclude a possible confounding effect due to a local variation, a simulation was carried with 5000 randomizations, and the results indicated that spatial models provided more precise estimates of the treatment contrasts when compare to the classical ANOVA.Biblioteca Digitais de Teses e Dissertações da USPPiedade, Sonia Maria de StefanoPilon, Ana Alice2004-09-20info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://teses.usp.br/teses/disponiveis/11/11134/tde-20190821-132929/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2019-08-22T21:24:11Zoai:teses.usp.br:tde-20190821-132929Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212019-08-22T21:24:11Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Métodos para incorporação da dependência espacial na análise de dados experimentais
Methods to incorporation of spatial dependency in analysis of experiments datas
title Métodos para incorporação da dependência espacial na análise de dados experimentais
spellingShingle Métodos para incorporação da dependência espacial na análise de dados experimentais
Pilon, Ana Alice
ANÁLISE DE DADOS
DELINEAMENTO EXPERIMENTAL
ESTATÍSTICAS ESPACIAIS
GEOESTATÍSTICA
MODELOS MATEMÁTICOS
title_short Métodos para incorporação da dependência espacial na análise de dados experimentais
title_full Métodos para incorporação da dependência espacial na análise de dados experimentais
title_fullStr Métodos para incorporação da dependência espacial na análise de dados experimentais
title_full_unstemmed Métodos para incorporação da dependência espacial na análise de dados experimentais
title_sort Métodos para incorporação da dependência espacial na análise de dados experimentais
author Pilon, Ana Alice
author_facet Pilon, Ana Alice
author_role author
dc.contributor.none.fl_str_mv Piedade, Sonia Maria de Stefano
dc.contributor.author.fl_str_mv Pilon, Ana Alice
dc.subject.none.fl_str_mv
dc.subject.por.fl_str_mv ANÁLISE DE DADOS
DELINEAMENTO EXPERIMENTAL
ESTATÍSTICAS ESPACIAIS
GEOESTATÍSTICA
MODELOS MATEMÁTICOS
topic ANÁLISE DE DADOS
DELINEAMENTO EXPERIMENTAL
ESTATÍSTICAS ESPACIAIS
GEOESTATÍSTICA
MODELOS MATEMÁTICOS
description A influência da heterogeneidade do solo na estimativa das diferenças entre os tratamentos é uma preocupação para os pesquisadores de campo. Na busca de alternativas para controlar esse fator e aumentar a precisão das comparações entre os tratamentos, o presente trabalho comparou a análise clássica ANOVA e alguns modelos espaciais que consideram a dependência no espaço entre as parcelas, levando em consideração suas posições geográficas na área experimental. Os modelos espaciais considerados no estudo foram: o modelo proposto por Papadakis, que consiste na adição de uma covariável construída a partir de observações em parcelas vizinhas, o modelo geoestatístico que consiste na adição de um efeito aleatório com correlação, dada por uma função da distância entre parcelas, e o modelo Markoviano que adiciona um efeito aleatório obtido a partir de observações em parcelas vizinhas. Os modelos foram ajustados a dados provenientes de dois ensaios em branco obtidos da literatura, aos quais foram adicionados efeitos arbitrários de tratamentos segundo delineamento inteiramente casualizado. Os efeitos dos tratamentos foram arbitrariamente adicionados a fim de simular um experimento real com o propósito de demonstração, para comparar a análise clássica (ANOVA) e os modelos espaciais. Nestas análises foi verificado que para os dados do ensaio em branco com 25 parcelas o modelo Markoviano forneceu maior precisão às estimativas dos contrastes entre os tratamentos, com grande diferença em relação aos resultados obtidos pelos demais modelos. Para o ensaio em branco, com 225 parcelas, o modelo Markoviano também foi o mais eficiente, porém, seus resultados foram próximos aos obtidos pelos outros modelos. O modelo geoestatístico junto aos métodos de estimação de máxima verossimilhança e máxima verossimilhança restrita foi o segundo melhor entre os modelos espaciais. Para a investigação dos resultados obtidos nos ajustes dos modelos aos dados dos ensaios em branco, foram realizadas simulações com alta, média e baixa dependência espacial entre as parcelas em condições experimentais similares aos dois conjuntos de dados investigados. Os resultados indicaram que os modelos espaciais oferecem uma maior precisão às estimativas dos contrastes entre as médias dos tratamentos, quando comparados à análise clássica, e o modelo geoestatístico junto aos métodos de estimação de parâmetros de máxima verossimilhança e de máxima verossimilhança restrita, foi na maioria das vezes o mais eficiente. O modelo Markoviano, em alguns casos, apresentou resultados mais precisos do que o geoestatístico, porém não foi suficientemente explorado nesse estudo sendo ainda mais trabalhoso do ponto de vista computacional. A fim de investigar se os efeitos dos tratamentos podem ser confundidos com a variação local, foi realizada uma simulação com 5000 diferentes aleatorizações dos efeitos de tratamentos aos dados do ensaio em branco com 25 parcelas, cujos resultados indicaram que os modelos espaciais oferecem estimativas mais precisas aos contrastes entre os tratamentos em comparação à análise clássica ANOVA
publishDate 2004
dc.date.none.fl_str_mv 2004-09-20
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://teses.usp.br/teses/disponiveis/11/11134/tde-20190821-132929/
url http://teses.usp.br/teses/disponiveis/11/11134/tde-20190821-132929/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1865492530397708288