[pt] EXPLICABILIDADE INTRÍNSECA E MODALIDADES DE COMUNICAÇÃO EM TIMES HUMANO-AGENTE: UM ESTUDO EXPERIMENTAL

• Ano de defesa: 2025
• Autor(a) principal: MATEUS LEVI SIMOES FERNANDES
• Tipo de documento: Tese
• Tipo de acesso: Acesso aberto
• Idioma: eng
• Instituição de defesa: MAXWELL
• Palavras-chave em Português: [pt] INTELIGENCIA ARTIFICIAL EXPLICAVEL; [pt] SISTEMA DE EXPLICACAO EM TEMPO REAL; [pt] OVERCOOKED AI; [pt] APRENDIZADO POR REFORCO HIERARQUICO; [pt] COLABORACAO HUMANO AGENTE; [en] EXPLAINABLE AI; [en] REAL TIME EXPLANATION SYSTEM; [en] OVERCOOKED AI; [en] HIERARCHICAL REFORCEMENT LEARNING; [en] HUMAN AGENT TEAMING
• Link de acesso: https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=74365&idi=1; https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=74365&idi=2; http://doi.org/10.17771/PUCRio.acad.74365

[pt] Inteligência Artificial Explicável (XAI) tem demonstrado potencial para melhorar a colaboração entre humanos e agentes, mas avaliações já feitas se baseiam em políticas construídas manualmente testadas em ambientes personalizados, o que limita a transferência de conclusões para pesquisas de ponta na área de colaboração humano-agente. Neste trabalho, apresentamos a primeira avaliação sistemática de recursos de XAI gerados a partir de uma política de aprendizado de máquina intrinsecamente explicável, utilizando um ambiente experimental de referência. Usando a arquitetura Hierarchical Ad Hoc Agents (HA2) no ambiente Overcooked-AI, geramos explicações em tempo real diretamente das seleções de subtarefas hierárquicas do agente e as disponibilizamos através de modalidades de texto ou áudio. No nosso experimento (n=38), identificamos que explicações não trazem benefícios de desempenho para participantes experientes, desafiando premissas sobre utilidade de XAI em colaboração acelerada. Porém, explicações em áudio geraram taxas de aprendizado mais rápidas que texto ou controle, sugerindo que explicações facilitam adaptação ao invés de desempenho imediato. Apresentamos a primeira comparação de efeitos de modalidades de explicação em colaboração humano-agente em tempo real e definimos um sistema de gatilhos para temporizar entrega de explicações. Nossos resultados evidenciam que conclusões de estudos Wizardof-Oz e políticas manuais podem não transferir-se para sistemas baseados em aprendizado de máquina, e que a eficácia de XAI depende criticamente da adequação entre as demandas da tarefa e a expertise do usuário. Este trabalho estabelece a metodologia para avaliar arquiteturas de aprendizado por reforço intrinsecamente explicáveis em ambientes de referência, conectando pesquisas de XAI e colaboração humano-agente.