An investigation of pre-training approaches for matrix factorization-based recommender systems.
| Ano de defesa: | 2024 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Universidade Federal de Campina Grande
Brasil Centro de Engenharia Elétrica e Informática - CEEI PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO UFCG |
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | https://dspace.sti.ufcg.edu.br/handle/riufcg/41050 |
Resumo: | Sistemas de Recomendação (RSs, Recommender Systems) consistuem um campo de pesquisa e aplicação cujo objetivo é recuperar itens relevantes dado o histórico de inter esses anteriores de um usuário. Desde o desafio aberto proposto pela Netflix para melhoria de performance em recomendação de filmes (Netflix Prize), RSs utilizam fatores latentes, ou embeddings, inicializados aleatoriamente e atualizados durante as etapas de treinamento, comorepresentação para ambos usuários e itens. Observando o grande campo da Aprendiza gem deMáquina (ML, Machine Learning), diferentes áreas de aplicação obtiveram melhoria de performance através da transferência de aprendizagem (Transfer Learning), à exemplo da grande evolução obtida nas tarefas relacionadas à Visão Computacional (CV, Computer Vision) após a introdução de modelos como VGG e AlexNet, mas também muito presente em tarefas do campo de Processamento de Linguagem Natural (NLP, Natural Language Pro cessing), especialmente com a popularização dos Grandes Modelos de Linguagem (LLMs, Large Language Models) como as famílias de modelos BERT e, mais popular recentemente, GPT. Diferente das outras áreas de aplicação, entretanto, Transfer Learning em RSs não é trivial, visto que as entidades geralmente se restringem à usuários e itens, enquanto em CV, as entidades são imagens e, em NLP, são palavras. O objetivo desta pesquisa é, portanto, estudar possíveis aplicações de Transfer Learning em modelos de recomendação, avaliando como diferentes inicializações impactam a performance preditiva de um modelo, através de técnicas de não-supervisionadas, auto-supervisionadas, e supervisionadas. |
| id |
UFCG_208f2d070e0a5cedaece86ece860392e |
|---|---|
| oai_identifier_str |
oai:dspace.sti.ufcg.edu.br:riufcg/41050 |
| network_acronym_str |
UFCG |
| network_name_str |
Biblioteca Digital de Teses e Dissertações da UFCG |
| repository_id_str |
|
| spelling |
An investigation of pre-training approaches for matrix factorization-based recommender systems.Uma investigação de abordagens de pré-treinamento para sistemas de recomendação baseados em fatoração de matrizes.Aprendizagem de máquinaSistemas de recomendaçãoTransferência de aprendizadoMachine learningRecommender systemsTransfer learningComputação.Informática.Sistemas de Recomendação (RSs, Recommender Systems) consistuem um campo de pesquisa e aplicação cujo objetivo é recuperar itens relevantes dado o histórico de inter esses anteriores de um usuário. Desde o desafio aberto proposto pela Netflix para melhoria de performance em recomendação de filmes (Netflix Prize), RSs utilizam fatores latentes, ou embeddings, inicializados aleatoriamente e atualizados durante as etapas de treinamento, comorepresentação para ambos usuários e itens. Observando o grande campo da Aprendiza gem deMáquina (ML, Machine Learning), diferentes áreas de aplicação obtiveram melhoria de performance através da transferência de aprendizagem (Transfer Learning), à exemplo da grande evolução obtida nas tarefas relacionadas à Visão Computacional (CV, Computer Vision) após a introdução de modelos como VGG e AlexNet, mas também muito presente em tarefas do campo de Processamento de Linguagem Natural (NLP, Natural Language Pro cessing), especialmente com a popularização dos Grandes Modelos de Linguagem (LLMs, Large Language Models) como as famílias de modelos BERT e, mais popular recentemente, GPT. Diferente das outras áreas de aplicação, entretanto, Transfer Learning em RSs não é trivial, visto que as entidades geralmente se restringem à usuários e itens, enquanto em CV, as entidades são imagens e, em NLP, são palavras. O objetivo desta pesquisa é, portanto, estudar possíveis aplicações de Transfer Learning em modelos de recomendação, avaliando como diferentes inicializações impactam a performance preditiva de um modelo, através de técnicas de não-supervisionadas, auto-supervisionadas, e supervisionadas.Recommender Systems (RSs) consist of a field of research and application with the goal of retrieving relevant items for a user. Since the open Netflix Prize challenge for performance improvement in RSs, they have constantly been built by representing users and items as latent factors, more commonly known as embeddings, which are often randomly initialized and updated during the training stages. When looking at the greater Machine Learning (ML) area, different areas of application obtained performance improvement through Transfer Learning, such as the boost obtained in the Computer Vision (CV) tasks after the proposal of models like VGG or AlexNet, or the one achieved in Natural Language Processing (NLP) tasks, especially after the popularization of Large Language Models (LLMs) such as the BERT and, more recently, the GPT model families. Unlike other application areas, however, Transfer Learning for RSs is not trivial since users and items are the entities, while in CV and NLP, the entities are images and words, respectively. This research aims to study possible applications of Transfer Learning for RSs, evaluating how unsupervised, self-supervised, and supervised embedding initialization impact the predictive performance of the models.Universidade Federal de Campina GrandeBrasilCentro de Engenharia Elétrica e Informática - CEEIPÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃOUFCGMARINHO, Leandro Balby.MARINHO, L. B.http://lattes.cnpq.br/3728312501032061CAMPELO, Cláudio elízio calazans.MANZATO, Marcelo garcia.COSTA, Júlio Barreto Guedes da.2024-04-052025-03-14T12:38:25Z2025-03-142025-03-14T12:38:25Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttps://dspace.sti.ufcg.edu.br/handle/riufcg/41050COSTA, Júlio Barreto Guedes da. An investigation of pre-training approaches for matrix factorization-based recommender systems. 2025. 92 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2024.porinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFCGinstname:Universidade Federal de Campina Grande (UFCG)instacron:UFCG2025-11-18T07:17:20Zoai:dspace.sti.ufcg.edu.br:riufcg/41050Biblioteca Digital de Teses e Dissertaçõeshttp://bdtd.ufcg.edu.br/PUBhttp://dspace.sti.ufcg.edu.br:8080/oai/requestbdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.bropendoar:48512025-11-18T07:17:20Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG)false |
| dc.title.none.fl_str_mv |
An investigation of pre-training approaches for matrix factorization-based recommender systems. Uma investigação de abordagens de pré-treinamento para sistemas de recomendação baseados em fatoração de matrizes. |
| title |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| spellingShingle |
An investigation of pre-training approaches for matrix factorization-based recommender systems. COSTA, Júlio Barreto Guedes da. Aprendizagem de máquina Sistemas de recomendação Transferência de aprendizado Machine learning Recommender systems Transfer learning Computação. Informática. |
| title_short |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| title_full |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| title_fullStr |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| title_full_unstemmed |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| title_sort |
An investigation of pre-training approaches for matrix factorization-based recommender systems. |
| author |
COSTA, Júlio Barreto Guedes da. |
| author_facet |
COSTA, Júlio Barreto Guedes da. |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
MARINHO, Leandro Balby. MARINHO, L. B. http://lattes.cnpq.br/3728312501032061 CAMPELO, Cláudio elízio calazans. MANZATO, Marcelo garcia. |
| dc.contributor.author.fl_str_mv |
COSTA, Júlio Barreto Guedes da. |
| dc.subject.por.fl_str_mv |
Aprendizagem de máquina Sistemas de recomendação Transferência de aprendizado Machine learning Recommender systems Transfer learning Computação. Informática. |
| topic |
Aprendizagem de máquina Sistemas de recomendação Transferência de aprendizado Machine learning Recommender systems Transfer learning Computação. Informática. |
| description |
Sistemas de Recomendação (RSs, Recommender Systems) consistuem um campo de pesquisa e aplicação cujo objetivo é recuperar itens relevantes dado o histórico de inter esses anteriores de um usuário. Desde o desafio aberto proposto pela Netflix para melhoria de performance em recomendação de filmes (Netflix Prize), RSs utilizam fatores latentes, ou embeddings, inicializados aleatoriamente e atualizados durante as etapas de treinamento, comorepresentação para ambos usuários e itens. Observando o grande campo da Aprendiza gem deMáquina (ML, Machine Learning), diferentes áreas de aplicação obtiveram melhoria de performance através da transferência de aprendizagem (Transfer Learning), à exemplo da grande evolução obtida nas tarefas relacionadas à Visão Computacional (CV, Computer Vision) após a introdução de modelos como VGG e AlexNet, mas também muito presente em tarefas do campo de Processamento de Linguagem Natural (NLP, Natural Language Pro cessing), especialmente com a popularização dos Grandes Modelos de Linguagem (LLMs, Large Language Models) como as famílias de modelos BERT e, mais popular recentemente, GPT. Diferente das outras áreas de aplicação, entretanto, Transfer Learning em RSs não é trivial, visto que as entidades geralmente se restringem à usuários e itens, enquanto em CV, as entidades são imagens e, em NLP, são palavras. O objetivo desta pesquisa é, portanto, estudar possíveis aplicações de Transfer Learning em modelos de recomendação, avaliando como diferentes inicializações impactam a performance preditiva de um modelo, através de técnicas de não-supervisionadas, auto-supervisionadas, e supervisionadas. |
| publishDate |
2024 |
| dc.date.none.fl_str_mv |
2024-04-05 2025-03-14T12:38:25Z 2025-03-14 2025-03-14T12:38:25Z |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://dspace.sti.ufcg.edu.br/handle/riufcg/41050 COSTA, Júlio Barreto Guedes da. An investigation of pre-training approaches for matrix factorization-based recommender systems. 2025. 92 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2024. |
| url |
https://dspace.sti.ufcg.edu.br/handle/riufcg/41050 |
| identifier_str_mv |
COSTA, Júlio Barreto Guedes da. An investigation of pre-training approaches for matrix factorization-based recommender systems. 2025. 92 f. Dissertação (Mestrado em Ciência da Computação) – Programa de Pós-Graduação em Computação, Centro de Engenharia Elétrica e Informática, Universidade Federal de Campina Grande, Paraíba, Brasil, 2024. |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
| eu_rights_str_mv |
openAccess |
| dc.publisher.none.fl_str_mv |
Universidade Federal de Campina Grande Brasil Centro de Engenharia Elétrica e Informática - CEEI PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO UFCG |
| publisher.none.fl_str_mv |
Universidade Federal de Campina Grande Brasil Centro de Engenharia Elétrica e Informática - CEEI PÓS-GRADUAÇÃO EM CIÊNCIA DA COMPUTAÇÃO UFCG |
| dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da UFCG instname:Universidade Federal de Campina Grande (UFCG) instacron:UFCG |
| instname_str |
Universidade Federal de Campina Grande (UFCG) |
| instacron_str |
UFCG |
| institution |
UFCG |
| reponame_str |
Biblioteca Digital de Teses e Dissertações da UFCG |
| collection |
Biblioteca Digital de Teses e Dissertações da UFCG |
| repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da UFCG - Universidade Federal de Campina Grande (UFCG) |
| repository.mail.fl_str_mv |
bdtd@setor.ufcg.edu.br || bdtd@setor.ufcg.edu.br |
| _version_ |
1851784697732923392 |