Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica

Detalhes bibliográficos
Ano de defesa: 2014
Autor(a) principal: Barroso, Laís Mayara Azevedo
Orientador(a): Nascimento, Moysés lattes
Banca de defesa: Silva, Fabyano Fonseca e lattes
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Viçosa
Programa de Pós-Graduação: Mestrado em Estatística Aplicada e Biometria
Departamento: Estatística Aplicada e Biometria
País: BR
Palavras-chave em Português:
Palavras-chave em Inglês:
Área do conhecimento CNPq:
Link de acesso: http://locus.ufv.br/handle/123456789/4076
Resumo: In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes.
id UFV_4cbbd8dbcf0006b316f547a79b6b7edd
oai_identifier_str oai:locus.ufv.br:123456789/4076
network_acronym_str UFV
network_name_str LOCUS Repositório Institucional da UFV
repository_id_str
spelling Barroso, Laís Mayara Azevedohttp://lattes.cnpq.br/8587813175766141Nascimento, Ana Carolina Campanahttp://lattes.cnpq.br/2348397234521519Cruz, Cosme Damiãohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4788274A6Nascimento, Moyséshttp://lattes.cnpq.br/6544887498494945Silva, Fabyano Fonseca ehttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4766260Z22015-03-26T13:32:21Z2015-01-132015-03-26T13:32:21Z2014-02-17BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014.http://locus.ufv.br/handle/123456789/4076In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes.No melhoramento genético de plantas, quando o objetivo é selecionar ou recomendar genótipos para o plantio, o estudo da interação entre genótipo x ambiente é de extrema importância. Entretanto, tal estudo não fornece informações pormenorizadas sobre o comportamento de cada cultivar diante das variações ambientais. Assim, tornam-se necessárias as análises de adaptabilidade e de estabilidade para a identificação e recomendação de materiais superiores em diferentes ambientes. Embora a literatura apresente diversos métodos, para realização da análise de adaptabilidade e estabilidade, nenhum leva em consideração a presença de fenótipos não normais, ou seja, distribuições de valores fenótipos assimétricos ou com caudas pesadas. Desta forma, caso haja a presença desse tipo de valores fenotípicos, os métodos podem sofrer a influência de modo que a recomendação pode ser errônea, ou seja, o uso de tais métodos ocasionam estimativas inadequadas, que não refletem a verdadeira relação existente entre a variação ambiental e a resposta fenotípica. Uma solução interessante para tratar este problema de maneira unificada, isto é, a presença de pontos discrepantes ou assimetria, é a utilização de regressão quantílica (RQ). Tal metodologia, diferentemente dos métodos de regressão usuais, que utilizam a média condicional para explicar a relação funcional entre a variação ambiental e a resposta fenotípica, faz uso de funções quantílicas condicionais. Desta forma, a RQ possibilita escolher o quantil que melhor representa a relação funcional de interesse com o intuito de contemplar naturalmente a mencionada falta de normalidade. Desta forma, o presente trabalho tem como objetivo apresentar a metodologia de regressão quantílica, através de uma discussão detalhada de seus fundamentos teóricos, evidenciando, com aplicações concretas, seu uso em análise de adaptabilidade e estabilidade, fornecendo assim um material de fácil acesso para leitores interessados no assunto, contribuindo com pesquisadores e interessados nesta área. Para avaliação da técnica foram simulados valores fenotípicos, com distribuições simétrica, simétrica com outliers, assimétrica à direita, assimétrica à direita com outliers, assimétrica à esquerda e assimétrica à esquerda com outliers. Além disso, foram utilizados dados provenientes de um experimento sobre produção de matéria seca de 92 genótipos de alfafa (Medicago sativa) avaliados em 20 ambientes. Sugere-se que, para valores fenotípicos simétricos deve-se averiguar se este possui outlier, se sim é utilizada ou a regressão não paramétrica ou a RQ (τ = 0,50) , se não, se utiliza ou a metodologia de Eberhart e Russell (1966) ou a RQ (τ = 0,50) . Já se o fenótipo for assimétrico, com ou sem a presença de outlier, utiliza-se RQ (τ = 0,25) para assimetria a direita e RQ (τ = 0,75) para assimetria à esquerda. De acordo com os resultados encontrados a RQ foi eficiente para classificação de genótipos de alfafa.Coordenação de Aperfeiçoamento de Pessoal de Nível Superiorapplication/pdfporUniversidade Federal de ViçosaMestrado em Estatística Aplicada e BiometriaUFVBREstatística Aplicada e BiometriaAlfafa - Melhoramento genéticoInteração genótipo x ambientesAlfalfa - BreedingGenotype x Environment interactionCNPQ::CIENCIAS AGRARIASRegressão quantílica na avaliação da adaptabilidade e estabilidade fenotípicaQuantile regression in the evaluation of adaptability and phenotypic stabilityinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:LOCUS Repositório Institucional da UFVinstname:Universidade Federal de Viçosa (UFV)instacron:UFVORIGINALtexto completo.pdfapplication/pdf562430https://locus.ufv.br//bitstream/123456789/4076/1/texto%20completo.pdf182da810cb5c6524a339ad2ea7c37142MD51TEXTtexto completo.pdf.txttexto completo.pdf.txtExtracted texttext/plain122770https://locus.ufv.br//bitstream/123456789/4076/2/texto%20completo.pdf.txt66865c09187cdccade16656afbeed617MD52THUMBNAILtexto completo.pdf.jpgtexto completo.pdf.jpgIM Thumbnailimage/jpeg3654https://locus.ufv.br//bitstream/123456789/4076/3/texto%20completo.pdf.jpgec01f90774b592d98adabecc5535f604MD53123456789/40762016-04-09 23:18:24.808oai:locus.ufv.br:123456789/4076Repositório InstitucionalPUBhttps://www.locus.ufv.br/oai/requestfabiojreis@ufv.bropendoar:21452016-04-10T02:18:24LOCUS Repositório Institucional da UFV - Universidade Federal de Viçosa (UFV)false
dc.title.por.fl_str_mv Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
dc.title.alternative.eng.fl_str_mv Quantile regression in the evaluation of adaptability and phenotypic stability
title Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
spellingShingle Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
Barroso, Laís Mayara Azevedo
Alfafa - Melhoramento genético
Interação genótipo x ambientes
Alfalfa - Breeding
Genotype x Environment interaction
CNPQ::CIENCIAS AGRARIAS
title_short Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
title_full Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
title_fullStr Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
title_full_unstemmed Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
title_sort Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
author Barroso, Laís Mayara Azevedo
author_facet Barroso, Laís Mayara Azevedo
author_role author
dc.contributor.authorLattes.por.fl_str_mv http://lattes.cnpq.br/8587813175766141
dc.contributor.author.fl_str_mv Barroso, Laís Mayara Azevedo
dc.contributor.advisor-co1.fl_str_mv Nascimento, Ana Carolina Campana
dc.contributor.advisor-co1Lattes.fl_str_mv http://lattes.cnpq.br/2348397234521519
dc.contributor.advisor-co2.fl_str_mv Cruz, Cosme Damião
dc.contributor.advisor-co2Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4788274A6
dc.contributor.advisor1.fl_str_mv Nascimento, Moysés
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/6544887498494945
dc.contributor.referee1.fl_str_mv Silva, Fabyano Fonseca e
dc.contributor.referee1Lattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4766260Z2
contributor_str_mv Nascimento, Ana Carolina Campana
Cruz, Cosme Damião
Nascimento, Moysés
Silva, Fabyano Fonseca e
dc.subject.por.fl_str_mv Alfafa - Melhoramento genético
Interação genótipo x ambientes
topic Alfafa - Melhoramento genético
Interação genótipo x ambientes
Alfalfa - Breeding
Genotype x Environment interaction
CNPQ::CIENCIAS AGRARIAS
dc.subject.eng.fl_str_mv Alfalfa - Breeding
Genotype x Environment interaction
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS AGRARIAS
description In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes.
publishDate 2014
dc.date.issued.fl_str_mv 2014-02-17
dc.date.accessioned.fl_str_mv 2015-03-26T13:32:21Z
dc.date.available.fl_str_mv 2015-01-13
2015-03-26T13:32:21Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014.
dc.identifier.uri.fl_str_mv http://locus.ufv.br/handle/123456789/4076
identifier_str_mv BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014.
url http://locus.ufv.br/handle/123456789/4076
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Viçosa
dc.publisher.program.fl_str_mv Mestrado em Estatística Aplicada e Biometria
dc.publisher.initials.fl_str_mv UFV
dc.publisher.country.fl_str_mv BR
dc.publisher.department.fl_str_mv Estatística Aplicada e Biometria
publisher.none.fl_str_mv Universidade Federal de Viçosa
dc.source.none.fl_str_mv reponame:LOCUS Repositório Institucional da UFV
instname:Universidade Federal de Viçosa (UFV)
instacron:UFV
instname_str Universidade Federal de Viçosa (UFV)
instacron_str UFV
institution UFV
reponame_str LOCUS Repositório Institucional da UFV
collection LOCUS Repositório Institucional da UFV
bitstream.url.fl_str_mv https://locus.ufv.br//bitstream/123456789/4076/1/texto%20completo.pdf
https://locus.ufv.br//bitstream/123456789/4076/2/texto%20completo.pdf.txt
https://locus.ufv.br//bitstream/123456789/4076/3/texto%20completo.pdf.jpg
bitstream.checksum.fl_str_mv 182da810cb5c6524a339ad2ea7c37142
66865c09187cdccade16656afbeed617
ec01f90774b592d98adabecc5535f604
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv LOCUS Repositório Institucional da UFV - Universidade Federal de Viçosa (UFV)
repository.mail.fl_str_mv fabiojreis@ufv.br
_version_ 1794528626998247424