SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs
| Ano de defesa: | 2021 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Estadual Paulista (Unesp)
|
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | http://hdl.handle.net/11449/217042 |
Resumo: | O uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados. |
| id |
UNSP_b6b0b8f520dd14610eabaff313dc847b |
|---|---|
| oai_identifier_str |
oai:repositorio.unesp.br:11449/217042 |
| network_acronym_str |
UNSP |
| network_name_str |
Repositório Institucional da UNESP |
| repository_id_str |
|
| spelling |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDsSQLStreamify: middleware based on microservices architecture providing real-time data stream reading transactions in legacy DBMSsBanco de dadosFluxo de dados (Computadores)Stream de dadosTempo realMiddlewareMicrosserviçosBuscas contínuasConsultas ativasDatabasesData streamReal timeMicroservicesContinuous queryO uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados.Use of information such as social media posts, financial stock quotations, car fuel consumption, smart home sensors, ICU equipment, among many others, leads to changes in data storage and processing. Reactive programming techniques, in which algorithms react to triggering actions, have been increasingly used and improved by several programming languages and development frameworks. This approach changes the way data should be consulted, changes in databases must be constantly monitored to trigger events and perform actions. In the literature, it is possible to verify demands in this area, seeking to validate the usefulness of the proposed work. Once this demand for integrating real-time data stream reading functions in systems in production using existing DBMSs (Database Management System), the objective of this work is to design and implement a middleware, with microservice-based architecture, capable of providing real-time data streams obtained by converting queries into continuous queries, without all the DSMS (Data Stream Management System) tool complexity and with the possibility of execution without changes in legacy systems databases. The choice for a microservice-based architecture enabled the work to be divided and solved in parts that communicate in order to deliver the final solution. The method created by containers that act as replication servers for detecting changes in data proved to be efficient in tests when compared to existing solutions. Moreover, employment of MQTT (Message Queue Telemetry Transport) protocol fit perfectly in the delivery of data streams.Universidade Estadual Paulista (Unesp)Correia, Ronaldo Celso Messias [UNESP]Universidade Estadual Paulista (Unesp)Silva, Aurélio Carlos Prado2022-03-07T14:20:23Z2022-03-07T14:20:23Z2021-12-20info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/11449/21704233004153073P2porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNESPinstname:Universidade Estadual Paulista (UNESP)instacron:UNESP2025-10-22T18:05:55Zoai:repositorio.unesp.br:11449/217042Repositório InstitucionalPUBhttp://repositorio.unesp.br/oai/requestrepositoriounesp@unesp.bropendoar:29462025-10-22T18:05:55Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)false |
| dc.title.none.fl_str_mv |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs SQLStreamify: middleware based on microservices architecture providing real-time data stream reading transactions in legacy DBMSs |
| title |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| spellingShingle |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs Silva, Aurélio Carlos Prado Banco de dados Fluxo de dados (Computadores) Stream de dados Tempo real Middleware Microsserviços Buscas contínuas Consultas ativas Databases Data stream Real time Microservices Continuous query |
| title_short |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| title_full |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| title_fullStr |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| title_full_unstemmed |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| title_sort |
SQLStreamify: middleware baseado em microsserviços fornecendo transações de leitura de fluxo de dados em SGBDs |
| author |
Silva, Aurélio Carlos Prado |
| author_facet |
Silva, Aurélio Carlos Prado |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
Correia, Ronaldo Celso Messias [UNESP] Universidade Estadual Paulista (Unesp) |
| dc.contributor.author.fl_str_mv |
Silva, Aurélio Carlos Prado |
| dc.subject.por.fl_str_mv |
Banco de dados Fluxo de dados (Computadores) Stream de dados Tempo real Middleware Microsserviços Buscas contínuas Consultas ativas Databases Data stream Real time Microservices Continuous query |
| topic |
Banco de dados Fluxo de dados (Computadores) Stream de dados Tempo real Middleware Microsserviços Buscas contínuas Consultas ativas Databases Data stream Real time Microservices Continuous query |
| description |
O uso de informações como postagens em redes sociais, cotações de ativos financeiros, consumo de combustível do automóvel, informações de sensores de casas inteligentes, equipamentos de UTI, entre tantas outras geradas continuamente, leva a mudanças no armazenamento e processamento de dados. Técnicas de programação reativas, nas quais algoritmos reagem a eventos para disparar ações, têm sido cada vez mais utilizadas e aprimoradas por diversas linguagens e frameworks de desenvolvimento. Essa abordagem altera a maneira como os dados devem ser consultados; deve se monitorar constantemente alterações em bases de dados para disparar eventos e executar ações. Na busca por trabalhos relacionados ao tema, é possível verificar as demandas na área, buscando validar a utilidade do trabalho proposto, com trabalhos que resolvem o problema do consumo de fluxo de dados apenas para suas aplicações. São demonstrados também trabalhos que apresentam técnicas de buscas em fluxo de dados e formas de publicação dos mesmos. Apesar da existência de vários trabalhos foi constatada a demanda por uma solução completa para integração de funções de leitura de fluxo de dados em Tempo Real em sistemas com bancos existentes e em produção. O objetivo do trabalho é projetar e implementar um middleware, com arquitetura baseada em microsserviços, capaz de disponibilizar fluxos de dados em tempo real obtidos pela conversão de consultas em consultas ativas, sem a complexidade de um SGDF (Sistema Gerenciador de Dados em Fluxos) e com a possibilidade de execução sem mudanças em bancos de dados já em uso. A escolha por uma arquitetura baseada em microsserviços possibilitou que o trabalho fosse dividido e resolvido em partes que se comunicam para entregar a solução final. O método criado por contêineres atuando como servidores de replicação para detecção de mudanças nos dados se provou eficiente nos testes comparado com as soluções existentes, uma vez que não prejudica as operações no SGBD (Sistema Gerenciador de Banco de Dados) e apresentou tempos de inserções paralelas a execução de em média 2.10 vezes mais rápido do que técnicas existentes para a solução do problema. Além do que, o uso do MQTT (Message Queue Telemetry Transport - Transporte de Telemetria de Fila de Mensagens) se adequou perfeitamente como protocolo de entrega dos fluxos de dados. |
| publishDate |
2021 |
| dc.date.none.fl_str_mv |
2021-12-20 2022-03-07T14:20:23Z 2022-03-07T14:20:23Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/11449/217042 33004153073P2 |
| url |
http://hdl.handle.net/11449/217042 |
| identifier_str_mv |
33004153073P2 |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
application/pdf |
| dc.publisher.none.fl_str_mv |
Universidade Estadual Paulista (Unesp) |
| publisher.none.fl_str_mv |
Universidade Estadual Paulista (Unesp) |
| dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UNESP instname:Universidade Estadual Paulista (UNESP) instacron:UNESP |
| instname_str |
Universidade Estadual Paulista (UNESP) |
| instacron_str |
UNESP |
| institution |
UNESP |
| reponame_str |
Repositório Institucional da UNESP |
| collection |
Repositório Institucional da UNESP |
| repository.name.fl_str_mv |
Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP) |
| repository.mail.fl_str_mv |
repositoriounesp@unesp.br |
| _version_ |
1854954640942039040 |