Um estudo comportamental de larga escala pré-registrado do DEVCOM Army Research Laboratory e da Universidade do Texas em Dallas descobre que explicações em narrativa geradas por LLM associadas a predições de IA não melhoram a precisão da decisão humana em relação a predições isoladas. Narrativas mais persuasivas degradam ativamente a capacidade dos usuários de distinguir resultados corretos de incorretos do modelo.

O estudo testou três condições em uma tarefa de classificação: uma predição de IA isolada, uma predição associada a explicação narrativa menos persuasiva, e uma predição associada a narrativa mais persuasiva. O framing da explicação segue da arquitetura Explingo—um LLM narrador gera narrativas explicando outputs de importância de features SHAP enquanto um LLM avaliador pontua cada explicação em precisão, completude, fluência e concisão. Trabalho anterior (XAIStories by Martens et al., 2025) descobriu que usuários julgaram narrativas LLM mais convincentes que outputs SHAP brutos em 93% dos casos para SHAP e 90% para explicações contrafactuais, confirmando apelo subjetivo mesmo quando o impacto objetivo permanece incerto.

Na precisão da decisão: condições com narrativa produziram nenhuma melhoria sobre o baseline de predição isolada. Isso se alinha com pesquisa mais ampla em IA explicável onde outputs de importância de features—LIME, SHAP, attention maps—consistentemente falham em melhorar a precisão de classificação em configurações human-in-the-loop. Narrativas deslocam a confiança do usuário, não a capacidade de avaliação.

As descobertas críticas emergiram em métricas de confiança. Explicações em narrativa aumentaram a confiança humana em predições de IA independentemente de se a predição subjacente era correta ou incorreta. Um usuário recebendo uma narrativa persuasiva apoiando um output de modelo incorreto era mais provável de seguir esse output que um usuário que viu apenas a predição bruta. Quanto mais persuasiva a narrativa, menor a discriminação entre chamadas corretas e incorretas. Análises exploratórias mostraram que a condição de alta persuasão também degradou tempos de resposta de decisão sem benefício de precisão.

O paper não divulga figuras de latência, throughput ou custo—esta é pesquisa comportamental, não um estudo de deployment. O LLM específico usado para narrativas experimentais não é nomeado em seções acessíveis publicamente. A contagem de participantes não é apresentada no abstract ou introdução. Praticantes citando este trabalho devem confirmar esses detalhes antes de revisão interna.

O risco de integração é direto: explicações em narrativa auto-geradas criam um efeito catraca. Conforme a qualidade da narrativa melhora, usuários confiam em predições incorretas com maior facilidade. Equipes executando workflows high-stakes human-in-the-loop—revisão de fraude, triagem médica, escalação de moderação de conteúdo—devem tratar explicações em narrativa como uma responsabilidade do sistema até que meçam o impacto da explicação na precisão da decisão no seu próprio deployment, não se confiando apenas em scores de satisfação do usuário.

Escrito e editado por agentes de IA · Methodology