Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia
| Ano de defesa: | 2024 |
|---|---|
| Autor(a) principal: | |
| Orientador(a): | |
| Banca de defesa: | |
| Tipo de documento: | Dissertação |
| Tipo de acesso: | Acesso aberto |
| Idioma: | por |
| Instituição de defesa: |
Biblioteca Digitais de Teses e Dissertações da USP
|
| Programa de Pós-Graduação: |
Não Informado pela instituição
|
| Departamento: |
Não Informado pela instituição
|
| País: |
Não Informado pela instituição
|
| Palavras-chave em Português: | |
| Link de acesso: | https://www.teses.usp.br/teses/disponiveis/100/100131/tde-20012025-123806/ |
Resumo: | A identificação e a classificação de emoções (como alegria, raiva, medo, desgosto, tristeza e surpresa) nos seres humanos são estudadas vastamente dentro de diversas áreas. Nos últimos anos, as técnicas computacionais de reconhecimento de padrões e aprendizado de máquina têm sido aplicadas na análise de emoções por meio de gestos e expressões (visual), por meio do conteúdo léxico (textual) e pelo som (acústico). O som, em especial as características acústicas da fala (como frequências, tom, intensidade e harmônicas), é foco de atenção de pesquisadores por ter uma forte conexão com o estado emocional. Este projeto teve como objetivo analisar o desempenho de ferramentas para reconhecimento de emoções que extraem características acústicas de falas em língua portuguesa e propor uma forma de utilizá-las na análise de diálogos. A ferramenta de melhor desempenho no reconhecimento de emoções foi utilizada para criar uma sequência de probabilidades de emoções a partir de diálogos e gerar métricas que foram aplicadas em um estudo de caso envolvendo sessões de psicoterapia. Particularmente, a aplicação tenta predizer a aliança terapêutica entre terapeuta e paciente, que é um dos principais componentes associados ao sucesso do tratamento terapêutico. A aliança terapêutica é avaliada por uma métrica obtida por meio do WAI (Work Alliance Inventory), que é um questionário preenchido tanto pelo paciente quanto terapeuta com valores atribuídos a cada resposta e extraída uma pontuação para cada sessão de psicoterapia durante um tratamento. No estudo de caso, foi verificada a correlação das expressões emocionais obtidas a partir dos áudios das sessões de psicoterapia com esta métrica. Como resultado, foi selecionada uma ferramenta com melhor desempenho e obtida a medida f1-score de 0,53 no reconhecimento de emoções utilizando dois conjuntos de dados de emoções simuladas. Embora o desempenho obtido possa ser melhorado, há indícios de que o método desenvolvido possa ser empregado na análise de diálogos. Adicionalmente, no estudo de caso com as sessões de psicoterapia, foi obtida a correlação máxima nas sessões de terapia de -0,44 entre a expressão de emoção neutra e o WAI do terapeuta, indicando um caminho para predizer o desfecho (sucesso ou fracasso) da terapia. Como contribuições deste projeto foram produzidas uma revisão sistemática, avaliação das ferramentas disponíveis para o reconhecimento de emoções em língua portuguesa, criação de métricas para análise emocional e avaliação da correlação com o WAI. |
| id |
USP_b5abb7d529a662887bb7022f29dbfc86 |
|---|---|
| oai_identifier_str |
oai:teses.usp.br:tde-20012025-123806 |
| network_acronym_str |
USP |
| network_name_str |
Biblioteca Digital de Teses e Dissertações da USP |
| repository_id_str |
|
| spelling |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapiaEmotions analysis in dialogs between Brazilian Portuguese speakers through acoustic analysis: an application in psychotherapyAcoustic processingAliança terapêuticaAlignment of emotional seriesAlinhamento de séries emocionaisAprendizado de máquinaMachine learningProcessamento acústicoPsicoterapiaPsychotherapyRecognition of emotionsReconhecimento de emoçõesTherapeutic allianceA identificação e a classificação de emoções (como alegria, raiva, medo, desgosto, tristeza e surpresa) nos seres humanos são estudadas vastamente dentro de diversas áreas. Nos últimos anos, as técnicas computacionais de reconhecimento de padrões e aprendizado de máquina têm sido aplicadas na análise de emoções por meio de gestos e expressões (visual), por meio do conteúdo léxico (textual) e pelo som (acústico). O som, em especial as características acústicas da fala (como frequências, tom, intensidade e harmônicas), é foco de atenção de pesquisadores por ter uma forte conexão com o estado emocional. Este projeto teve como objetivo analisar o desempenho de ferramentas para reconhecimento de emoções que extraem características acústicas de falas em língua portuguesa e propor uma forma de utilizá-las na análise de diálogos. A ferramenta de melhor desempenho no reconhecimento de emoções foi utilizada para criar uma sequência de probabilidades de emoções a partir de diálogos e gerar métricas que foram aplicadas em um estudo de caso envolvendo sessões de psicoterapia. Particularmente, a aplicação tenta predizer a aliança terapêutica entre terapeuta e paciente, que é um dos principais componentes associados ao sucesso do tratamento terapêutico. A aliança terapêutica é avaliada por uma métrica obtida por meio do WAI (Work Alliance Inventory), que é um questionário preenchido tanto pelo paciente quanto terapeuta com valores atribuídos a cada resposta e extraída uma pontuação para cada sessão de psicoterapia durante um tratamento. No estudo de caso, foi verificada a correlação das expressões emocionais obtidas a partir dos áudios das sessões de psicoterapia com esta métrica. Como resultado, foi selecionada uma ferramenta com melhor desempenho e obtida a medida f1-score de 0,53 no reconhecimento de emoções utilizando dois conjuntos de dados de emoções simuladas. Embora o desempenho obtido possa ser melhorado, há indícios de que o método desenvolvido possa ser empregado na análise de diálogos. Adicionalmente, no estudo de caso com as sessões de psicoterapia, foi obtida a correlação máxima nas sessões de terapia de -0,44 entre a expressão de emoção neutra e o WAI do terapeuta, indicando um caminho para predizer o desfecho (sucesso ou fracasso) da terapia. Como contribuições deste projeto foram produzidas uma revisão sistemática, avaliação das ferramentas disponíveis para o reconhecimento de emoções em língua portuguesa, criação de métricas para análise emocional e avaliação da correlação com o WAI.Emotion detection and classification (e.g., happiness, anger, fear, disgust, sadness, surprise) in human beings are vastly studied in a variety of areas. In the last years, computational techniques of pattern recognition and machine learning have been applied to the analysis of emotions through gestures and expressions (visual), lexical content (textual) and sound (acoustic). The sound, particularly the acoustic characteristics of speech (such as frequencies, tone, intensity, and harmonics), are the focus of researchers\' attention due to the strong connection with the emotional state. This project aimed at the performance evaluation of algorithms for emotion recognition which extract acoustic characteristics of speech from dialogs in Portuguese language and propose a way to apply them in dialog analysis. The algorithm with best performance on the emotion recognition was used to create a sequence of emotion probabilities from the dialogs and generate metrics which were applied in a case study involving psychotherapy sessions. In this case, the algorithm attempts to predict the therapeutic alliance, which is one of the main components associtated to the success on therapeutic treatment. The therapeutic alliance is evaluated by a metric produced through WAI (Work Alliance Inventory), which is a questionnaire filled by both therapist and patient having values assigned to each answer and generating a score for each therapy session during the treatment. In this case study, we verified the correlation between the emotions expressed in therapy sessions audios with this metric. As a result, the algorithm with best performance was selected and produced the f1-score measure of 0.53 in the emotion recognition using two datasets of acted emotion speeches. Although there is room for improvements on the performance results, there are indications that the developed method can be applied in dialogs analysis. Additionally, in the case study, we got the maximum correlation on the therapy sessions of -0.44 between neutral emotion and the WAI from therapist, pointing to a way to predict the result (success or failure) from the therapy treatment. As contributions from this project were produced a systematic review, evaluation of available tools for emotion recognition in portuguese, creation of metrics for emotional analysis and evaluation of the correlation with WAI.Biblioteca Digitais de Teses e Dissertações da USPLima, Ariane MachadoMarques, Fátima de Lourdes dos Santos NunesSilva, Omar Rodrigues da2024-11-22info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/100/100131/tde-20012025-123806/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2025-04-11T10:56:04Zoai:teses.usp.br:tde-20012025-123806Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212025-04-11T10:56:04Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false |
| dc.title.none.fl_str_mv |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia Emotions analysis in dialogs between Brazilian Portuguese speakers through acoustic analysis: an application in psychotherapy |
| title |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| spellingShingle |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia Silva, Omar Rodrigues da Acoustic processing Aliança terapêutica Alignment of emotional series Alinhamento de séries emocionais Aprendizado de máquina Machine learning Processamento acústico Psicoterapia Psychotherapy Recognition of emotions Reconhecimento de emoções Therapeutic alliance |
| title_short |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| title_full |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| title_fullStr |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| title_full_unstemmed |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| title_sort |
Análise de emoções em diálogos em português brasileiro por meio da análise acústica: uma aplicação em psicoterapia |
| author |
Silva, Omar Rodrigues da |
| author_facet |
Silva, Omar Rodrigues da |
| author_role |
author |
| dc.contributor.none.fl_str_mv |
Lima, Ariane Machado Marques, Fátima de Lourdes dos Santos Nunes |
| dc.contributor.author.fl_str_mv |
Silva, Omar Rodrigues da |
| dc.subject.por.fl_str_mv |
Acoustic processing Aliança terapêutica Alignment of emotional series Alinhamento de séries emocionais Aprendizado de máquina Machine learning Processamento acústico Psicoterapia Psychotherapy Recognition of emotions Reconhecimento de emoções Therapeutic alliance |
| topic |
Acoustic processing Aliança terapêutica Alignment of emotional series Alinhamento de séries emocionais Aprendizado de máquina Machine learning Processamento acústico Psicoterapia Psychotherapy Recognition of emotions Reconhecimento de emoções Therapeutic alliance |
| description |
A identificação e a classificação de emoções (como alegria, raiva, medo, desgosto, tristeza e surpresa) nos seres humanos são estudadas vastamente dentro de diversas áreas. Nos últimos anos, as técnicas computacionais de reconhecimento de padrões e aprendizado de máquina têm sido aplicadas na análise de emoções por meio de gestos e expressões (visual), por meio do conteúdo léxico (textual) e pelo som (acústico). O som, em especial as características acústicas da fala (como frequências, tom, intensidade e harmônicas), é foco de atenção de pesquisadores por ter uma forte conexão com o estado emocional. Este projeto teve como objetivo analisar o desempenho de ferramentas para reconhecimento de emoções que extraem características acústicas de falas em língua portuguesa e propor uma forma de utilizá-las na análise de diálogos. A ferramenta de melhor desempenho no reconhecimento de emoções foi utilizada para criar uma sequência de probabilidades de emoções a partir de diálogos e gerar métricas que foram aplicadas em um estudo de caso envolvendo sessões de psicoterapia. Particularmente, a aplicação tenta predizer a aliança terapêutica entre terapeuta e paciente, que é um dos principais componentes associados ao sucesso do tratamento terapêutico. A aliança terapêutica é avaliada por uma métrica obtida por meio do WAI (Work Alliance Inventory), que é um questionário preenchido tanto pelo paciente quanto terapeuta com valores atribuídos a cada resposta e extraída uma pontuação para cada sessão de psicoterapia durante um tratamento. No estudo de caso, foi verificada a correlação das expressões emocionais obtidas a partir dos áudios das sessões de psicoterapia com esta métrica. Como resultado, foi selecionada uma ferramenta com melhor desempenho e obtida a medida f1-score de 0,53 no reconhecimento de emoções utilizando dois conjuntos de dados de emoções simuladas. Embora o desempenho obtido possa ser melhorado, há indícios de que o método desenvolvido possa ser empregado na análise de diálogos. Adicionalmente, no estudo de caso com as sessões de psicoterapia, foi obtida a correlação máxima nas sessões de terapia de -0,44 entre a expressão de emoção neutra e o WAI do terapeuta, indicando um caminho para predizer o desfecho (sucesso ou fracasso) da terapia. Como contribuições deste projeto foram produzidas uma revisão sistemática, avaliação das ferramentas disponíveis para o reconhecimento de emoções em língua portuguesa, criação de métricas para análise emocional e avaliação da correlação com o WAI. |
| publishDate |
2024 |
| dc.date.none.fl_str_mv |
2024-11-22 |
| dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
| dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
| format |
masterThesis |
| status_str |
publishedVersion |
| dc.identifier.uri.fl_str_mv |
https://www.teses.usp.br/teses/disponiveis/100/100131/tde-20012025-123806/ |
| url |
https://www.teses.usp.br/teses/disponiveis/100/100131/tde-20012025-123806/ |
| dc.language.iso.fl_str_mv |
por |
| language |
por |
| dc.relation.none.fl_str_mv |
|
| dc.rights.driver.fl_str_mv |
Liberar o conteúdo para acesso público. info:eu-repo/semantics/openAccess |
| rights_invalid_str_mv |
Liberar o conteúdo para acesso público. |
| eu_rights_str_mv |
openAccess |
| dc.format.none.fl_str_mv |
application/pdf |
| dc.coverage.none.fl_str_mv |
|
| dc.publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
| publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
| dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo (USP) instacron:USP |
| instname_str |
Universidade de São Paulo (USP) |
| instacron_str |
USP |
| institution |
USP |
| reponame_str |
Biblioteca Digital de Teses e Dissertações da USP |
| collection |
Biblioteca Digital de Teses e Dissertações da USP |
| repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP) |
| repository.mail.fl_str_mv |
virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br |
| _version_ |
1865492244762460160 |