Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers
| Ano de defesa: | 2025 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Federal de Pernambuco
|
| Programa de Pós-Graduação: |
Programa de Pos Graduacao em Ciencia da Computacao
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Brasil
|
| Palavras-chave em Português: | |
| Link de acesso: | https://repositorio.ufpe.br/handle/123456789/66963 |
Resumo: | O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado. |
| id |
UFPE_1c5f9090211c1929d43f65cd3caa63ff |
|---|---|
| oai_identifier_str |
oai:attena.ufpe.br:123456789/66963 |
| network_acronym_str |
UFPE |
| network_name_str |
Repositório Institucional da UFPE |
| repository_id_str |
|
| spelling |
SILVA, Ladson Gomeshttp://lattes.cnpq.br/1135781511092082http://lattes.cnpq.br/3740757562716147BLAWID, Stefan Michael2025-11-26T14:51:18Z2025-11-26T14:51:18Z2025-07-28SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025.https://repositorio.ufpe.br/handle/123456789/66963O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado.This research examines how recent advances in generative artificial intelligence, particularly Large Language Models and Retrieval-Augmented Generation (RAG), can be applied to plant disease diagnosis. It introduces LIMMO, a multimodal conversa tional agent designed to assist smallholder farmers through natural language conver sations and image-based interactions. By combining modern language models, image analysis using deep learning, and smart information retrieval from specialized sources, the system addresses key challenges in agricultural environments, such as limited ac cess to technical support and reliable data. The final system architecture integrates multiple knowledge sources, including a local vector database, web search capabilities through the Tavily API, and specialized agricultural data from the Embrapa API. For image analysis, the system employs a redundant approach, using the CultivAI API as the primary method while seamlessly falling back to GPT-based processing when primary extraction fails or is questioned by the user. This modular architecture with specialized Model Context Protocols (MCPs) proved more efficient than earlier implementations based on multi-agent systems. The evaluation methodology utilized 100 synthetic questions, analyzing accuracy, factual consistency, retrieval quality, and response utility. Results demonstrate that the RAG system with access to external sources significantly outperforms approaches re lying solely on local knowledge, particularly for complex queries or those outside the immediate scope of the knowledge base. The dissertation concludes by outlining future directions, including expanding data sources, conducting large-scale real-world testing, developing a disease tracking system, and creating mechanisms to differentiate from generalist tools like ChatGPT, Gemini, or Perplexity AI when handling queries outside the specialized scope.porUniversidade Federal de PernambucoPrograma de Pos Graduacao em Ciencia da ComputacaoUFPEBrasilhttps://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessGenerative artificial intelligenceRetrieval-augmented generationPlant disease diagnosisConversational systemsKnowledge retrievalAgricultural technologyApplying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmersinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesismestradoreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPEORIGINALDISSERTAÇÃO Ladson Gomes Silva.pdfDISSERTAÇÃO Ladson Gomes Silva.pdfapplication/pdf1412379https://attena.ufpe.br/bitstream/123456789/66963/1/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf19fddc354de249c2a591c000bb19942aMD51LICENSElicense.txtlicense.txttext/plain; charset=utf-82362https://attena.ufpe.br/bitstream/123456789/66963/2/license.txt5e89a1613ddc8510c6576f4b23a78973MD52TEXTDISSERTAÇÃO Ladson Gomes Silva.pdf.txtDISSERTAÇÃO Ladson Gomes Silva.pdf.txtExtracted texttext/plain245614https://attena.ufpe.br/bitstream/123456789/66963/3/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.txtdfe567f9d6af6e5752daf255c24bd6bdMD53THUMBNAILDISSERTAÇÃO Ladson Gomes Silva.pdf.jpgDISSERTAÇÃO Ladson Gomes Silva.pdf.jpgGenerated Thumbnailimage/jpeg1268https://attena.ufpe.br/bitstream/123456789/66963/4/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.jpg11db92bcf90a45dac3862e71d88fcb9dMD54123456789/669632026-09-10 12:08:06.99448oai:attena.ufpe.br:123456789/66963VGVybW8gZGUgRGVww7NzaXRvIExlZ2FsIGUgQXV0b3JpemHDp8OjbyBwYXJhIFB1YmxpY2l6YcOnw6NvIGRlIERvY3VtZW50b3Mgbm8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRQoKCkRlY2xhcm8gZXN0YXIgY2llbnRlIGRlIHF1ZSBlc3RlIFRlcm1vIGRlIERlcMOzc2l0byBMZWdhbCBlIEF1dG9yaXphw6fDo28gdGVtIG8gb2JqZXRpdm8gZGUgZGl2dWxnYcOnw6NvIGRvcyBkb2N1bWVudG9zIGRlcG9zaXRhZG9zIG5vIFJlcG9zaXTDs3JpbyBEaWdpdGFsIGRhIFVGUEUgZSBkZWNsYXJvIHF1ZToKCkkgLSBvcyBkYWRvcyBwcmVlbmNoaWRvcyBubyBmb3JtdWzDoXJpbyBkZSBkZXDDs3NpdG8gc8OjbyB2ZXJkYWRlaXJvcyBlIGF1dMOqbnRpY29zOwoKSUkgLSAgbyBjb250ZcO6ZG8gZGlzcG9uaWJpbGl6YWRvIMOpIGRlIHJlc3BvbnNhYmlsaWRhZGUgZGUgc3VhIGF1dG9yaWE7CgpJSUkgLSBvIGNvbnRlw7pkbyDDqSBvcmlnaW5hbCwgZSBzZSBvIHRyYWJhbGhvIGUvb3UgcGFsYXZyYXMgZGUgb3V0cmFzIHBlc3NvYXMgZm9yYW0gdXRpbGl6YWRvcywgZXN0YXMgZm9yYW0gZGV2aWRhbWVudGUgcmVjb25oZWNpZGFzOwoKSVYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIG9icmEgY29sZXRpdmEgKG1haXMgZGUgdW0gYXV0b3IpOiB0b2RvcyBvcyBhdXRvcmVzIGVzdMOjbyBjaWVudGVzIGRvIGRlcMOzc2l0byBlIGRlIGFjb3JkbyBjb20gZXN0ZSB0ZXJtbzsKClYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIFRyYWJhbGhvIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28sIERpc3NlcnRhw6fDo28gb3UgVGVzZTogbyBhcnF1aXZvIGRlcG9zaXRhZG8gY29ycmVzcG9uZGUgw6AgdmVyc8OjbyBmaW5hbCBkbyB0cmFiYWxobzsKClZJIC0gcXVhbmRvIHRyYXRhci1zZSBkZSBUcmFiYWxobyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvLCBEaXNzZXJ0YcOnw6NvIG91IFRlc2U6IGVzdG91IGNpZW50ZSBkZSBxdWUgYSBhbHRlcmHDp8OjbyBkYSBtb2RhbGlkYWRlIGRlIGFjZXNzbyBhbyBkb2N1bWVudG8gYXDDs3MgbyBkZXDDs3NpdG8gZSBhbnRlcyBkZSBmaW5kYXIgbyBwZXLDrW9kbyBkZSBlbWJhcmdvLCBxdWFuZG8gZm9yIGVzY29saGlkbyBhY2Vzc28gcmVzdHJpdG8sIHNlcsOhIHBlcm1pdGlkYSBtZWRpYW50ZSBzb2xpY2l0YcOnw6NvIGRvIChhKSBhdXRvciAoYSkgYW8gU2lzdGVtYSBJbnRlZ3JhZG8gZGUgQmlibGlvdGVjYXMgZGEgVUZQRSAoU0lCL1VGUEUpLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gQWJlcnRvOgoKTmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRlIGF1dG9yIHF1ZSByZWNhZW0gc29icmUgZXN0ZSBkb2N1bWVudG8sIGZ1bmRhbWVudGFkbyBuYSBMZWkgZGUgRGlyZWl0byBBdXRvcmFsIG5vIDkuNjEwLCBkZSAxOSBkZSBmZXZlcmVpcm8gZGUgMTk5OCwgYXJ0LiAyOSwgaW5jaXNvIElJSSwgYXV0b3Jpem8gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBQZXJuYW1idWNvIGEgZGlzcG9uaWJpbGl6YXIgZ3JhdHVpdGFtZW50ZSwgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkIChhcXVpc2nDp8OjbykgYXRyYXbDqXMgZG8gc2l0ZSBkbyBSZXBvc2l0w7NyaW8gRGlnaXRhbCBkYSBVRlBFIG5vIGVuZGVyZcOnbyBodHRwOi8vd3d3LnJlcG9zaXRvcmlvLnVmcGUuYnIsIGEgcGFydGlyIGRhIGRhdGEgZGUgZGVww7NzaXRvLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gUmVzdHJpdG86CgpOYSBxdWFsaWRhZGUgZGUgdGl0dWxhciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgZGUgYXV0b3IgcXVlIHJlY2FlbSBzb2JyZSBlc3RlIGRvY3VtZW50bywgZnVuZGFtZW50YWRvIG5hIExlaSBkZSBEaXJlaXRvIEF1dG9yYWwgbm8gOS42MTAgZGUgMTkgZGUgZmV2ZXJlaXJvIGRlIDE5OTgsIGFydC4gMjksIGluY2lzbyBJSUksIGF1dG9yaXpvIGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgUGVybmFtYnVjbyBhIGRpc3BvbmliaWxpemFyIGdyYXR1aXRhbWVudGUsIHNlbSByZXNzYXJjaW1lbnRvIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgcGFyYSBmaW5zIGRlIGxlaXR1cmEsIGltcHJlc3PDo28gZS9vdSBkb3dubG9hZCAoYXF1aXNpw6fDo28pIGF0cmF2w6lzIGRvIHNpdGUgZG8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRSBubyBlbmRlcmXDp28gaHR0cDovL3d3dy5yZXBvc2l0b3Jpby51ZnBlLmJyLCBxdWFuZG8gZmluZGFyIG8gcGVyw61vZG8gZGUgZW1iYXJnbyBjb25kaXplbnRlIGFvIHRpcG8gZGUgZG9jdW1lbnRvLCBjb25mb3JtZSBpbmRpY2FkbyBubyBjYW1wbyBEYXRhIGRlIEVtYmFyZ28uCg==Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212026-09-10T15:08:06Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false |
| dc.title.pt_BR.fl_str_mv |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| title |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| spellingShingle |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers SILVA, Ladson Gomes Generative artificial intelligence Retrieval-augmented generation Plant disease diagnosis Conversational systems Knowledge retrieval Agricultural technology |
| title_short |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| title_full |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| title_fullStr |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| title_full_unstemmed |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| title_sort |
Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers |
| author |
SILVA, Ladson Gomes |
| author_facet |
SILVA, Ladson Gomes |
| author_role |
author |
| dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/1135781511092082 |
| dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/3740757562716147 |
| dc.contributor.author.fl_str_mv |
SILVA, Ladson Gomes |
| dc.contributor.advisor1.fl_str_mv |
BLAWID, Stefan Michael |
| contributor_str_mv |
BLAWID, Stefan Michael |
| dc.subject.por.fl_str_mv |
Generative artificial intelligence Retrieval-augmented generation Plant disease diagnosis Conversational systems Knowledge retrieval Agricultural technology |
| topic |
Generative artificial intelligence Retrieval-augmented generation Plant disease diagnosis Conversational systems Knowledge retrieval Agricultural technology |
| description |
O presente trabalho busca entender como técnicas mais recentes de inteligên cia artificial generativa—como os Modelos de Linguagem de Grande Escala (LLMs) e a Geração Aumentada por Recuperação (RAG) podem ser aplicadas no diagnóstico de doenças em plantas. O estudo envolve a criação do LIMMO, um agente conver sacional multimodal pensado para ajudar agricultores familiares por meio de conver sas em linguagem natural e também pelo envio de imagens. Combinando modelos avançados de linguagem, análise de imagem com redes neurais e recuperação de in formações especializadas, o sistema tenta lidar com alguns dos principais desafios do campo, como a falta de acesso a dados confiáveis e a dificuldade de conseguir apoio técnico em tempo real. A arquitetura final do sistema integra múltiplas fontes de con hecimento, incluindo uma base de dados vetoriais local, APIs de busca na web (como a Tavily) e a API da Embrapa para acesso a dados agrícolas especializados. Para análise de imagens, o sistema utiliza uma abordagem redundante, com a API CultivAI como método primário e o processamento baseado em GPT como sistema de backup quando aextração principal falha ou é questionada pelo usuário. Esta arquitetura mod ular com Protocolos de Contexto de Modelo (MCPs) demonstrou ser mais eficiente que as implementações anteriores baseadas em sistemas multi-agentes. A metodolo gia de avaliação utilizou 100 perguntas sintéticas, analisando precisão, consistência factual, qualidade da recuperação e utilidade das respostas. Os resultados mostram que o sistema RAG com acesso a fontes externas supera significativamente as abor dagens que dependem apenas de conhecimento local, particularmente em consultas complexas ou fora do escopo imediato da base de conhecimento. Para o futuro, o tra balho aponta caminhos que incluem expansão das fontes de dados, testes massivos em condições reais, desenvolvimento de um sistema de rastreamento de doenças, e mecanismos para diferenciação de ferramentas generalistas como ChatGPT, Gemini ou Perplexity AI em consultas fora do escopo especializado. |
| publishDate |
2025 |
| dc.date.accessioned.fl_str_mv |
2025-11-26T14:51:18Z |
| dc.date.available.fl_str_mv |
2025-11-26T14:51:18Z |
| dc.date.issued.fl_str_mv |
2025-07-28 |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.citation.fl_str_mv |
SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025. |
| dc.identifier.uri.fl_str_mv |
https://repositorio.ufpe.br/handle/123456789/66963 |
| identifier_str_mv |
SILVA, Ladson Gomes. Applying generative AI to plant disease diagnosis: a multimodal agent for supporting smallholder farmers. 2025. Dissertação (Mestrado em Ciência da Computação) - Universidade Federal de Pernambuco, Recife, 2025. |
| url |
https://repositorio.ufpe.br/handle/123456789/66963 |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
https://creativecommons.org/licenses/by-nc-nd/4.0/ info:eu-repo/semantics/openAccess |
| rights_invalid_str_mv |
https://creativecommons.org/licenses/by-nc-nd/4.0/ |
| eu_rights_str_mv |
openAccess |
| dc.publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
| dc.publisher.program.fl_str_mv |
Programa de Pos Graduacao em Ciencia da Computacao |
| dc.publisher.initials.fl_str_mv |
UFPE |
| dc.publisher.country.fl_str_mv |
Brasil |
| publisher.none.fl_str_mv |
Universidade Federal de Pernambuco |
| dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFPE instname:Universidade Federal de Pernambuco (UFPE) instacron:UFPE |
| instname_str |
Universidade Federal de Pernambuco (UFPE) |
| instacron_str |
UFPE |
| institution |
UFPE |
| reponame_str |
Repositório Institucional da UFPE |
| collection |
Repositório Institucional da UFPE |
| bitstream.url.fl_str_mv |
https://attena.ufpe.br/bitstream/123456789/66963/1/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf https://attena.ufpe.br/bitstream/123456789/66963/2/license.txt https://attena.ufpe.br/bitstream/123456789/66963/3/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.txt https://attena.ufpe.br/bitstream/123456789/66963/4/DISSERTA%c3%87%c3%83O%20Ladson%20Gomes%20Silva.pdf.jpg |
| bitstream.checksum.fl_str_mv |
19fddc354de249c2a591c000bb19942a 5e89a1613ddc8510c6576f4b23a78973 dfe567f9d6af6e5752daf255c24bd6bd 11db92bcf90a45dac3862e71d88fcb9d |
| bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
| repository.name.fl_str_mv |
Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE) |
| repository.mail.fl_str_mv |
attena@ufpe.br |
| _version_ |
1881120881955045376 |