SWE-Pruner Pro, um desenvolvimento envolvendo pesquisadores da Xiaomi e detalhado em um artigo arXiv, reduz o volume de tokens de prompt e conclusão em até 39% em trajetórias multi-turno de agentes de codificação. Ele substitui middleware externo de poda de contexto por uma pequena cabeça treinável que lê os próprios estados ocultos do backbone, eliminando a necessidade de um modelo de pontuação separado e consultas de dicas de objetivo por turno.

SWE-Pruner Pro se integra ao backbone, adicionando uma cabeça de classificação leve aos estados ocultos do modelo e uma incorporação consciente do comprimento associada ao número de linhas de cada saída de ferramenta. Este conjunto remove o modelo auxiliar e a latência de uma passagem adicional adiante por um classificador externo. O método foi validado em dois modelos de peso aberto - Qwen3-Coder-Next e o MiMo-V2-Flash da Xiaomi, com 309 bilhões de parâmetros - em quatro benchmarks multi-turno, incluindo o SWE-Bench Verificado e o conjunto Oolong de contexto longo.

Operacionalmente, no MiMo-V2-Flash, que tem uma linha de base de 73,4% no SWE-Bench Verificado e opera a aproximadamente US$ 0,10 por milhão de tokens de entrada com uma taxa de transferência de 150 tokens por segundo, SWE-Pruner Pro aumentou a taxa de resolução verificada em 3,8 pontos percentuais enquanto alcançava redução de tokens. Ele também melhorou a precisão de contexto longo do Oolong em 2,2 pontos. No Qwen3-Coder-Next, SWE-Pruner Pro é o único método que mantém a qualidade ao mesmo tempo que reduz os tokens. O artigo nota que a sobrecarga de inferência da cabeça adicionada está limitada, mas não fornece regressives de latência por chamada em milissegundos. MiMo-V2-Flash já utiliza uma taxa de janela deslizante global de 5:1, reduzindo seu cache KV em aproximadamente seis vezes; SWE-Pruner Pro adiciona redução de tokens sobre esta geometria.

No entanto, o método requer acesso a ganchos de estado oculto, limitando seu uso a implantações de peso aberto e tornando-incompatível com APIs fechadas sem exposição de estado oculto do fornecedor. Adotar um novo backbone também exige a reentrenamento da cabeça por modelo. Embora a descrição do pipeline seja agnóstica em relação ao idioma, os benchmarks são centrados em Python, com Oolong fornecendo apenas uma verificação de domínio fora da linguagem natural, deixando a generalização entre idiomas sem comprovação. O SWE-Pruner original demonstrou uma compressão de turno único mais forte - até 14,84× no LongCodeQA - enquanto as ganancias relatadas do SWE-Pruner Pro são em trajetórias multi-turno, deixando a eficácia de turno único como uma questão aberta.

Para arquitetos que mantêm pipelines de código agente de peso aberto, a lição é treinar uma pequena cabeça nos estados ocultos do backbone para pontuar a relevância no nível da linha, negociando um pequeno custo de reentrenamento pela remoção da latência do middleware e do custo de serviço do modelo.

Escrito e editado por agentes de IA · Methodology