SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs

Detalhes bibliográficos
Ano de defesa: 2021
Autor(a) principal: Silva, Aurélio Carlos Prado
Orientador(a): Não Informado pela instituição
Banca de defesa: Não Informado pela instituição
Tipo de documento: Dissertação
Tipo de acesso: Acesso aberto
Idioma: por
Instituição de defesa: Universidade Estadual Paulista (Unesp)
Programa de Pós-Graduação: Não Informado pela instituição
Departamento: Não Informado pela instituição
País: Não Informado pela instituição
Palavras-chave em Português:
Link de acesso: http://hdl.handle.net/11449/217042
Resumo: O uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados.
id UNSP_b6b0b8f520dd14610eabaff313dc847b
oai_identifier_str oai:repositorio.unesp.br:11449/217042
network_acronym_str UNSP
network_name_str Repositório Institucional da UNESP
repository_id_str
spelling SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDsSQLStreamify: middleware based on microservices architecture providing real-time data stream reading transactions in legacy DBMSsBanco de dadosFluxo de dados (Computadores)Stream de dadosTempo realMiddlewareMicrosserviçosBuscas contínuasConsultas ativasDatabasesData streamReal timeMicroservicesContinuous queryO uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados.Use of information such as social media posts, financial stock quotations, car fuel consumption, smart home sensors, ICU equipment, among many others, leads to changes in data storage and processing. Reactive programming techniques, in which algorithms react to triggering actions, have been increasingly used and improved by several programming languages and development frameworks. This approach changes the way data should be consulted, changes in databases must be constantly monitored to trigger events and perform actions. In the literature, it is possible to verify demands in this area, seeking to validate the usefulness of the proposed work. Once this demand for integrating real-time data stream reading functions in systems in production using existing DBMSs (Database Management System), the objective of this work is to design and implement a middleware, with microservice-based architecture, capable of providing real-time data streams obtained by converting queries into continuous queries, without all the DSMS (Data Stream Management System) tool complexity and with the possibility of execution without changes in legacy systems databases. The choice for a microservice-based architecture enabled the work to be divided and solved in parts that communicate in order to deliver the final solution. The method created by containers that act as replication servers for detecting changes in data proved to be efficient in tests when compared to existing solutions. Moreover, employment of MQTT (Message Queue Telemetry Transport) protocol fit perfectly in the delivery of data streams.Universidade Estadual Paulista (Unesp)Correia, Ronaldo Celso Messias [UNESP]Universidade Estadual Paulista (Unesp)Silva, Aurélio Carlos Prado2022-03-07T14:20:23Z2022-03-07T14:20:23Z2021-12-20info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/11449/21704233004153073P2porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNESPinstname:Universidade Estadual Paulista (UNESP)instacron:UNESP2025-10-22T18:05:55Zoai:repositorio.unesp.br:11449/217042Repositório InstitucionalPUBhttp://repositorio.unesp.br/oai/requestrepositoriounesp@unesp.bropendoar:29462025-10-22T18:05:55Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)false
dc.title.none.fl_str_mv SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
SQLStreamify: middleware based on microservices architecture providing real-time data stream reading transactions in legacy DBMSs
title SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
spellingShingle SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
Silva, Aurélio Carlos Prado
Banco de dados
Fluxo de dados (Computadores)
Stream de dados
Tempo real
Middleware
Microsserviços
Buscas contínuas
Consultas ativas
Databases
Data stream
Real time
Microservices
Continuous query
title_short SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
title_full SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
title_fullStr SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
title_full_unstemmed SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
title_sort SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
author Silva, Aurélio Carlos Prado
author_facet Silva, Aurélio Carlos Prado
author_role author
dc.contributor.none.fl_str_mv Correia, Ronaldo Celso Messias [UNESP]
Universidade Estadual Paulista (Unesp)
dc.contributor.author.fl_str_mv Silva, Aurélio Carlos Prado
dc.subject.por.fl_str_mv Banco de dados
Fluxo de dados (Computadores)
Stream de dados
Tempo real
Middleware
Microsserviços
Buscas contínuas
Consultas ativas
Databases
Data stream
Real time
Microservices
Continuous query
topic Banco de dados
Fluxo de dados (Computadores)
Stream de dados
Tempo real
Middleware
Microsserviços
Buscas contínuas
Consultas ativas
Databases
Data stream
Real time
Microservices
Continuous query
description O uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados.
publishDate 2021
dc.date.none.fl_str_mv 2021-12-20
2022-03-07T14:20:23Z
2022-03-07T14:20:23Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11449/217042
33004153073P2
url http://hdl.handle.net/11449/217042
identifier_str_mv 33004153073P2
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
dc.source.none.fl_str_mv reponame:Repositório Institucional da UNESP
instname:Universidade Estadual Paulista (UNESP)
instacron:UNESP
instname_str Universidade Estadual Paulista (UNESP)
instacron_str UNESP
institution UNESP
reponame_str Repositório Institucional da UNESP
collection Repositório Institucional da UNESP
repository.name.fl_str_mv Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)
repository.mail.fl_str_mv repositoriounesp@unesp.br
_version_ 1854954640942039040