Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers

Detalhes bibliográficos
Ano de defesa: 2025
Autor(a) principal: SILVA, Ladson Gomes
Orientador(a): BLAWID, Stefan Michael
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Federal de Pernambuco
Programa de Pós-Graduação: Programa de Pos Graduacao em Ciencia da Computacao
Departamento: Não Informado pela instituição
País: Brasil
Palavras-chave em Português:
Link de acesso: https://repositorio.ufpe.br/handle/123456789/66963
Resumo: O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado.
id UFPE_1c5f9090211c1929d43f65cd3caa63ff
oai_identifier_str oai:attena.ufpe.br:123456789/66963
network_acronym_str UFPE
network_name_str Repositório Institucional da UFPE
repository_id_str
spelling SILVA, Ladson Gomeshttp://lattes.cnpq.br/1135781511092082http://lattes.cnpq.br/3740757562716147BLAWID, Stefan Michael2025-11-26T14:51:18Z2025-11-26T14:51:18Z2025-07-28SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025.https://repositorio.ufpe.br/handle/123456789/66963O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado.This research examines how recent advances in generative artificial intelligence, particularly Large Language Models and Retrieval-Augmented Generation (RAG), can be applied to plant disease diagnosis. It introduces LIMMO, a multimodal conversa tional agent designed to assist smallholder farmers through natural language conver sations and image-based interactions. By combining modern language models, image analysis using deep learning, and smart information retrieval from specialized sources, the system addresses key challenges in agricultural environments, such as limited ac cess to technical support and reliable data. The final system architecture integrates multiple knowledge sources, including a local vector database, web search capabilities through the Tavily API, and specialized agricultural data from the Embrapa API. For image analysis, the system employs a redundant approach, using the CultivAI API as the primary method while seamlessly falling back to GPT-based processing when primary extraction fails or is questioned by the user. This modular architecture with specialized Model Context Protocols (MCPs) proved more efficient than earlier implementations based on multi-agent systems. The evaluation methodology utilized 100 synthetic questions, analyzing accuracy, factual consistency, retrieval quality, and response utility. Results demonstrate that the RAG system with access to external sources significantly outperforms approaches re lying solely on local knowledge, particularly for complex queries or those outside the immediate scope of the knowledge base. The dissertation concludes by outlining future directions, including expanding data sources, conducting large-scale real-world testing, developing a disease tracking system, and creating mechanisms to differentiate from generalist tools like ChatGPT, Gemini, or Perplexity AI when handling queries outside the specialized scope.porUniversidade Federal de PernambucoPrograma de Pos Graduacao em Ciencia da ComputacaoUFPEBrasilhttps://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessGenerative artificial intelligenceRetrieval-augmented generationPlant disease diagnosisConversational systemsKnowledge retrievalAgricultural technologyApplying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmersinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesismestradoreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPEORIGINALDISSERTAÇÃO Ladson Gomes Silva.pdfDISSERTAÇÃO Ladson Gomes Silva.pdfapplication/pdf1412379https://attena.ufpe.br/bitstream/123456789/66963/1/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf19fddc354de249c2a591c000bb19942aMD51LICENSElicense.txtlicense.txttext/plain; charset=utf-82362https://attena.ufpe.br/bitstream/123456789/66963/2/license.txt5e89a1613ddc8510c6576f4b23a78973MD52TEXTDISSERTAÇÃO Ladson Gomes Silva.pdf.txtDISSERTAÇÃO Ladson Gomes Silva.pdf.txtExtracted texttext/plain245614https://attena.ufpe.br/bitstream/123456789/66963/3/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.txtdfe567f9d6af6e5752daf255c24bd6bdMD53THUMBNAILDISSERTAÇÃO Ladson Gomes Silva.pdf.jpgDISSERTAÇÃO Ladson Gomes Silva.pdf.jpgGenerated Thumbnailimage/jpeg1268https://attena.ufpe.br/bitstream/123456789/66963/4/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.jpg11db92bcf90a45dac3862e71d88fcb9dMD54123456789/669632026-09-10 12:08:06.99448oai:attena.ufpe.br:123456789/66963VGVybW8gZGUgRGVww7NzaXRvIExlZ2FsIGUgQXV0b3JpemHDp8OjbyBwYXJhIFB1YmxpY2l6YcOnw6NvIGRlIERvY3VtZW50b3Mgbm8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRQoKCkRlY2xhcm8gZXN0YXIgY2llbnRlIGRlIHF1ZSBlc3RlIFRlcm1vIGRlIERlcMOzc2l0byBMZWdhbCBlIEF1dG9yaXphw6fDo28gdGVtIG8gb2JqZXRpdm8gZGUgZGl2dWxnYcOnw6NvIGRvcyBkb2N1bWVudG9zIGRlcG9zaXRhZG9zIG5vIFJlcG9zaXTDs3JpbyBEaWdpdGFsIGRhIFVGUEUgZSBkZWNsYXJvIHF1ZToKCkkgLSBvcyBkYWRvcyBwcmVlbmNoaWRvcyBubyBmb3JtdWzDoXJpbyBkZSBkZXDDs3NpdG8gc8OjbyB2ZXJkYWRlaXJvcyBlIGF1dMOqbnRpY29zOwoKSUkgLSAgbyBjb250ZcO6ZG8gZGlzcG9uaWJpbGl6YWRvIMOpIGRlIHJlc3BvbnNhYmlsaWRhZGUgZGUgc3VhIGF1dG9yaWE7CgpJSUkgLSBvIGNvbnRlw7pkbyDDqSBvcmlnaW5hbCwgZSBzZSBvIHRyYWJhbGhvIGUvb3UgcGFsYXZyYXMgZGUgb3V0cmFzIHBlc3NvYXMgZm9yYW0gdXRpbGl6YWRvcywgZXN0YXMgZm9yYW0gZGV2aWRhbWVudGUgcmVjb25oZWNpZGFzOwoKSVYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIG9icmEgY29sZXRpdmEgKG1haXMgZGUgdW0gYXV0b3IpOiB0b2RvcyBvcyBhdXRvcmVzIGVzdMOjbyBjaWVudGVzIGRvIGRlcMOzc2l0byBlIGRlIGFjb3JkbyBjb20gZXN0ZSB0ZXJtbzsKClYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIFRyYWJhbGhvIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28sIERpc3NlcnRhw6fDo28gb3UgVGVzZTogbyBhcnF1aXZvIGRlcG9zaXRhZG8gY29ycmVzcG9uZGUgw6AgdmVyc8OjbyBmaW5hbCBkbyB0cmFiYWxobzsKClZJIC0gcXVhbmRvIHRyYXRhci1zZSBkZSBUcmFiYWxobyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvLCBEaXNzZXJ0YcOnw6NvIG91IFRlc2U6IGVzdG91IGNpZW50ZSBkZSBxdWUgYSBhbHRlcmHDp8OjbyBkYSBtb2RhbGlkYWRlIGRlIGFjZXNzbyBhbyBkb2N1bWVudG8gYXDDs3MgbyBkZXDDs3NpdG8gZSBhbnRlcyBkZSBmaW5kYXIgbyBwZXLDrW9kbyBkZSBlbWJhcmdvLCBxdWFuZG8gZm9yIGVzY29saGlkbyBhY2Vzc28gcmVzdHJpdG8sIHNlcsOhIHBlcm1pdGlkYSBtZWRpYW50ZSBzb2xpY2l0YcOnw6NvIGRvIChhKSBhdXRvciAoYSkgYW8gU2lzdGVtYSBJbnRlZ3JhZG8gZGUgQmlibGlvdGVjYXMgZGEgVUZQRSAoU0lCL1VGUEUpLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gQWJlcnRvOgoKTmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRlIGF1dG9yIHF1ZSByZWNhZW0gc29icmUgZXN0ZSBkb2N1bWVudG8sIGZ1bmRhbWVudGFkbyBuYSBMZWkgZGUgRGlyZWl0byBBdXRvcmFsIG5vIDkuNjEwLCBkZSAxOSBkZSBmZXZlcmVpcm8gZGUgMTk5OCwgYXJ0LiAyOSwgaW5jaXNvIElJSSwgYXV0b3Jpem8gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBQZXJuYW1idWNvIGEgZGlzcG9uaWJpbGl6YXIgZ3JhdHVpdGFtZW50ZSwgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkIChhcXVpc2nDp8OjbykgYXRyYXbDqXMgZG8gc2l0ZSBkbyBSZXBvc2l0w7NyaW8gRGlnaXRhbCBkYSBVRlBFIG5vIGVuZGVyZcOnbyBodHRwOi8vd3d3LnJlcG9zaXRvcmlvLnVmcGUuYnIsIGEgcGFydGlyIGRhIGRhdGEgZGUgZGVww7NzaXRvLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gUmVzdHJpdG86CgpOYSBxdWFsaWRhZGUgZGUgdGl0dWxhciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgZGUgYXV0b3IgcXVlIHJlY2FlbSBzb2JyZSBlc3RlIGRvY3VtZW50bywgZnVuZGFtZW50YWRvIG5hIExlaSBkZSBEaXJlaXRvIEF1dG9yYWwgbm8gOS42MTAgZGUgMTkgZGUgZmV2ZXJlaXJvIGRlIDE5OTgsIGFydC4gMjksIGluY2lzbyBJSUksIGF1dG9yaXpvIGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgUGVybmFtYnVjbyBhIGRpc3BvbmliaWxpemFyIGdyYXR1aXRhbWVudGUsIHNlbSByZXNzYXJjaW1lbnRvIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgcGFyYSBmaW5zIGRlIGxlaXR1cmEsIGltcHJlc3PDo28gZS9vdSBkb3dubG9hZCAoYXF1aXNpw6fDo28pIGF0cmF2w6lzIGRvIHNpdGUgZG8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRSBubyBlbmRlcmXDp28gaHR0cDovL3d3dy5yZXBvc2l0b3Jpby51ZnBlLmJyLCBxdWFuZG8gZmluZGFyIG8gcGVyw61vZG8gZGUgZW1iYXJnbyBjb25kaXplbnRlIGFvIHRpcG8gZGUgZG9jdW1lbnRvLCBjb25mb3JtZSBpbmRpY2FkbyBubyBjYW1wbyBEYXRhIGRlIEVtYmFyZ28uCg==Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212026-09-10T15:08:06Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false
dc.title.pt_BR.fl_str_mv Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
title Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
spellingShingle Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
SILVA, Ladson Gomes
Generative artificial intelligence
Retrieval-augmented generation
Plant disease diagnosis
Conversational systems
Knowledge retrieval
Agricultural technology
title_short Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
title_full Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
title_fullStr Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
title_full_unstemmed Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
title_sort Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
author SILVA, Ladson Gomes
author_facet SILVA, Ladson Gomes
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/1135781511092082
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/3740757562716147
dc.contributor.author.fl_str_mv SILVA, Ladson Gomes
dc.contributor.advisor1.fl_str_mv BLAWID, Stefan Michael
contributor_str_mv BLAWID, Stefan Michael
dc.subject.por.fl_str_mv Generative artificial intelligence
Retrieval-augmented generation
Plant disease diagnosis
Conversational systems
Knowledge retrieval
Agricultural technology
topic Generative artificial intelligence
Retrieval-augmented generation
Plant disease diagnosis
Conversational systems
Knowledge retrieval
Agricultural technology
description O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado.
publishDate 2025
dc.date.accessioned.fl_str_mv 2025-11-26T14:51:18Z
dc.date.available.fl_str_mv 2025-11-26T14:51:18Z
dc.date.issued.fl_str_mv 2025-07-28
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025.
dc.identifier.uri.fl_str_mv https://repositorio.ufpe.br/handle/123456789/66963
identifier_str_mv SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025.
url https://repositorio.ufpe.br/handle/123456789/66963
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv https://creativecommons.org/licenses/by-nc-nd/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv https://creativecommons.org/licenses/by-nc-nd/4.0/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Pernambuco
dc.publisher.program.fl_str_mv Programa de Pos Graduacao em Ciencia da Computacao
dc.publisher.initials.fl_str_mv UFPE
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal de Pernambuco
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFPE
instname:Universidade Federal de Pernambuco (UFPE)
instacron:UFPE
instname_str Universidade Federal de Pernambuco (UFPE)
instacron_str UFPE
institution UFPE
reponame_str Repositório Institucional da UFPE
collection Repositório Institucional da UFPE
bitstream.url.fl_str_mv https://attena.ufpe.br/bitstream/123456789/66963/1/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf
https://attena.ufpe.br/bitstream/123456789/66963/2/license.txt
https://attena.ufpe.br/bitstream/123456789/66963/3/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.txt
https://attena.ufpe.br/bitstream/123456789/66963/4/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.jpg
bitstream.checksum.fl_str_mv 19fddc354de249c2a591c000bb19942a
5e89a1613ddc8510c6576f4b23a78973
dfe567f9d6af6e5752daf255c24bd6bd
11db92bcf90a45dac3862e71d88fcb9d
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)
repository.mail.fl_str_mv attena@ufpe.br
_version_ 1881120881955045376