CompactionRL impulsa a los agentes de codificación GLM 5–7 puntos en benchmarks

CompactionRL está entrenando el modelo GLM-5.2 de 750B-A40B enseñando al agente a comprimir su propio contexto. GLM-4.5-Air logra un 66.8% Pass@1 en SWE-bench Verificado (+7.0) y un 24.5% en Terminal-Bench 2.0 (+3.1), mientras que GLM-4.7-Flash alcanza un 56.0% en SWE-bench Verificado (+5.5) y un 20.2% en Terminal-Bench 2.0 (+6.8).

El documento de CompactionRL posiciona la compresión de contexto como un primitivo entrenable, abordando la falta de coincidencia en la distribución entre los despliegues de largo alcance y las ventanas de contexto finitas.

El mecanismo reemplaza la suposición de trayectoria fija de los métodos de RL relativos al grupo como GRPO. Cuando un agente comprime una trayectoria súper larga en sub-rasgos, diferentes despliegues desde el mismo prompt generan un número desigual de trazas entrenables con longitudes variables. GRPO falla aquí ya que asigna una ventaja a nivel de grupo uniformemente en cada token. CompactionRL utiliza una formulación PPO basada en crítico que estima las ventajas a nivel de token mediante la estimación generalizada de ventaja a través de trayectorias, emparejada con la normalización de pérdida a nivel de token. El modelo aprende a ejecutar tareas y generar resúmenes, optimizando la política de compresión de principio a fin.

La pila es agnóstica con respecto al modelo, validada en la familia MoE de GLM: GLM-4.5-Air (106B en total, 30B activos), GLM-4.7-Flash (30B en total, 3B activos) y GLM-5.2 (750B en total, 40B activos). El entrenamiento y los despliegues utilizan slime, la capa de infraestructura de Z.ai que admite despliegues de caja blanca y caja negra, modo de trayectoria compacta, flujos de trabajo de sub-agente y gestión del caché KV FP8. Las notas del blog de HuggingFace de GLM-5.2 mencionan que slime fusionó más de diez modelos de expertos durante el entrenamiento post-OPD en paralelo, albergando la carga de trabajo de despliegue de CompactionRL.

Los aumentos de precisión son aditivos en modelos base fuertes, pero el documento omite detalles cruciales de escalado como la latencia de compresión, el costo por paso de GPU y la sobrecarga de tokens de resumen. Las llamadas de resumen pueden bloquear la ejecución del agente durante decenas de segundos, con una longitud de salida y contenido que varía sustancialmente entre instantáneas idénticas: una estocasticidad que CompactionRL debe absorber. No está claro si la compresión aprendida reduce el retraso de reloj de pared frente a un resumen congelado.

La confiabilidad bajo la presión de ingeniería real es una importante reserva. El equipo de Z.ai advierte que mantener una ventana de contexto de 1M tokens a lo largo de trayectorias de codificación multi-pasos es desafiante. La compresión es una capa de compresión obligatoria, no una reserva, con cada paso siendo perdioso. El bucle de entrenamiento debe constantemente restabilizarse contra representaciones de historia cambiantes. Los arquitectos deben tener en cuenta que entrenar sin compresión crea un sesgo entre entrenamiento y servicio, que CompactionRL busca eliminar.

Trate la compresión de contexto como un primitivo de entrenamiento diferenciable y cambie de RL grupal a PPO basado en crítico cuando las trayectorias se fragmentan en sub-rasgos de longitudes variables.