Correções ao Nível de Ativação Superam Edições de Prompts para Julgadores de LLMs com Vies

Um estudo sobre interpretabilidade mecânica identificou vieses em grandes modelos de linguagem (LLMs) mapeando nove benchmarks em sete julgadores de LLM para subespaços específicos de estado oculto na camada 25. Os vieses, que incluem posicional, comprimento e formatação, estão confinados a apenas três a cinco direções efetivas por tipo de viés. Esta descoberta permite a previsão de falha do julgador com um AUC de 0,82 e uma defesa ao nível de ativação que supera a reescrita do prompt em quatro a seis vezes.

O artigo no arXiv "Inside the Unfair Judge" de Xu et al., conduzido dentro de Llama-3.1-8B, Qwen3-14B e Gemma-3-12B, trata o viés do julgador como um problema de nível de representação em vez de um problema de entrada-saída. Empregando estimadores de mudança direcional, como mediana geométrica e o principal componente PCA, junto com métodos de fronteira discriminativa como LDA e SVM linear, os pesquisadores descobriram que as entradas de julgamento de base ocupam um manifold de ativação apertado, enquanto as entradas viesadas são deslocadas ao longo de um subespaço de baixa dimensão, específico do tipo, que se torna mais linearmente separável com a profundidade. O deslocamento é codificado na direção, não na magnitude, com normas L2 entre ativações viesadas e limpas estatisticamente indistinguíveis em todas as camadas, exceto a cabeça final de leitura de pontuação, onde p > 0,1.

A causalidade é confirmada através do direcionamento da ativação. Injetar a direção de viés recuperada em estados ocultos limpos reproduz a pontuação viesada e removê-la de estados viesados restaura as pontuações de base. Direções aleatórias de norma combinada produzem deslocamentos significativamente menores, e controles de troca de tipo de viés caem entre aleatórios e efeitos dentro do tipo, descartando explicações genéricas de perturbação ou cabeça de leitura. Uma defesa de ativação que projeta fora o subespaço de viés mantém pelo menos 80 por cento de seu efeito na amostra nas dobras mantidas e supera as linhas de base de reescrita de texto em aproximadamente quatro a seis vezes.

Um sonda linear treinada nesses recursos de direção de viés prevê a degradação do julgador em três benchmarks completamente não vistos com um AUC de 0,82, significativamente acima dos cerca de 0,63 alcançados pelas alternativas baseadas em texto. O artigo destaca uma assimetria comportamental em pipelines de avaliação automatizada: cues de superfície negativos, como posicionamento adverso ou formatação ruim, impõem grandes penalidades de pontuação, enquanto a maioria dos cues positivos se agregam perto de zero. O único desvio inflacionário claro é uma alegação de "Refinamento", que afirma que a resposta foi cuidadosamente revisada, empurrando as pontuações acima da média de base de cerca de 5,84 no Llama-3.1-8B.

As restrições são imediatas e relevantes à implantação. O método requer acesso branco-cápsula aos estados ocultos, excluindo julgadores de API apenas como o GPT-4. Para equipes que hospedam seus próprios pesos, a intervenção na camada 25 exige ganchos de inferência personalizados que não são atualmente expostos por pilhas de serviço mainstream. Os autores também deixam aberta a questão de se os tipos de viés fora dos sete estudados ocupam os mesmos subespaços ou geram novos, uma lacuna de generalização que importa para monitorar ataques de avaliação adversos.

Nenhuma métrica de produção é relatada, portanto, considere as descobertas como um padrão de mitigação caixa branca aguardando integração. Para aqueles com propriedade da pilha de inferência, sonde os estados ocultos da camada 25 para a direção de viés de 3-5 dimensões e projete-a fora antes da cabeça de pontuação, pois limpar o prompt sozinho deixa uma ordem de magnitude mais de variância na sentença do que uma defesa ao nível de ativação.