CompactionRL impulsiona agentes de codificação GLM em 5–7 pontos nos benchmarks

CompactionRL está treinando o modelo GLM-5.2 de 750B-A40B ensinando o agente a compactar seu próprio contexto. GLM-4.5-Air alcança 66,8% Pass@1 no SWE-bench Verificado (+7,0) e 24,5% no Terminal-Bench 2.0 (+3,1), enquanto GLM-4.7-Flash atinge 56,0% no SWE-bench Verificado (+5,5) e 20,2% no Terminal-Bench 2.0 (+6,8).

O artigo CompactionRL posiciona a compactação de contexto como um primitivo treinável, abordando a incompatibilidade de distribuição entre rodadas de longo prazo e janelas de contexto finitas.

O mecanismo substitui a suposição de trajetória fixa dos métodos de RL relativos ao grupo, como GRPO. Quando um agente compacta uma trajetória super-longa em sub-trajetórias, diferentes rodadas a partir do mesmo prompt geram um número desigual de traços treináveis com comprimentos variáveis. GRPO falha aqui, pois atribui uma única vantagem de nível de grupo uniformemente em cada token. CompactionRL utiliza uma formulação PPO baseada em crítico que estima vantagens a nível do token por meio de estimativa de vantagem generalizada entre trajetórias, emparelhada com normalização de perda a nível do token. O modelo aprende a executar tarefas e gerar resumos, otimizando a política de compactação de ponta a ponta.

A pilha é agnóstica em relação ao modelo, validada na família MoE da GLM: GLM-4.5-Air (106B total, 30B ativo), GLM-4.7-Flash (30B total, 3B ativo) e GLM-5.2 (750B total, 40B ativo). Treinamento e rodada utilizam slime, a camada de infraestrutura da Z.ai que suporta rodadas em caixa branca e caixa preta, modo de trajetória compacta, fluxos de sub-agentes e gerenciamento de cache KV FP8. O blog HuggingFace da GLM-5.2 nota que slime fundiu mais de dez modelos de especialistas durante o treinamento pós-OPD paralelo, hospedando a carga de trabalho da rodada CompactionRL.

Os ganhos de precisão são aditivos em modelos base fortes, mas o artigo omite detalhes cruciais de escalabilidade, como latência de compactação, custo por etapa de GPU e sobrecarga de token de resumo. Chamadas de resumo podem bloquear a execução do agente por dezenas de segundos, com comprimento de saída e conteúdo variando substancialmente em snapshots idênticos - uma estocasticidade que CompactionRL deve absorver. Não está claro se a compactação aprendida reduz o atraso do relógio de parede em comparação com um resumidor congelado.

A confiabilidade sob pressão de engenharia real é uma grande reserva. A equipe Z.ai adverte que manter uma janela de contexto de 1M-token em trajetórias de codificação multi-etapas é desafiador. A compactação é uma camada de compressão obrigatória, não uma alternativa, com cada passo sendo perdido. O loop de treinamento deve constantemente reestabilizar-se contra representações de histórico em mudança. Arquitetos devem notar que o treinamento sem compactação cria um desvio entre treino e serviço, que CompactionRL visa eliminar.

Trate a compactação de contexto como um primitivo de treinamento diferenciado e mude de RL agrupado para PPO baseado em crítico quando as trajetórias se fragmentam em sub-trajetórias de comprimentos variáveis.