Pesquisadores de múltiplas instituições publicaram MISA-T em 11 de agosto, uma política de admissão em camada de roteamento que substitui heurísticas por carga de trabalho com três mecanismos coordenados — admissão de sessão adaptativa, alocação de capacidade KV ciente da carga de trabalho e contabilização KV ciente do tempo de residência — para agendar rollouts mistos RLVR, RLHF e agentos em serviço de inferência assíncrono compartilhado. Em Step3.7 e Qwen3.6-35B-A3B, MISA-T supera um Router vLLM com cache-aware sintonizado por sweep em 53,3% e 43,6% de throughput de rollout respectivamente. Em um experimento Step3.7 com 50 iterações pareado, fornece aumento de throughput de 35,6% e reduz o tempo médio de iteração em 22,8% enquanto mantém a mistura de carga de trabalho do treinador intacta.
O problema central: roteamento ciente de prefixo, o padrão atual em pilhas de produção vLLM, roteia requisições para réplicas que já possuem seu prefixo em cache KV. Isso funciona quando todas as requisições se assemelham. Pipelines de pós-treinamento misturando RLVR (sequências verificáveis curtas, alta rotatividade), RLHF (feedback multi-turno moderado, paced por humanos) e rollouts agentos (sessões multi-turno longas com lacunas de chamadas de ferramentas) no mesmo cluster produzem três classes de carga com tempos de residência KV radicalmente diferentes. Sessões agentos de longa residência preenchem blocos e expulsam tokens RLVR no meio do rollout, travando o pipeline de amostra do treinador.
MISA-T fica na camada de roteamento e monitora o tempo de residência esperado de cada sessão antes da admissão. Controla a admissão verificando se capacidade KV suficiente existe para servir a trajetória completa da sessão sem deslocar cargas de trabalho mais próximas à conclusão. Alocação de capacidade é ciente de classe de carga: sessões RLVR recebem blocos justos correspondidos às suas sequências curtas, enquanto sessões agentos são atribuídas regiões que toleram lacunas de chamadas de ferramentas sem disparar expulsão. O componente de contabilização de tempo de residência ajusta estimativas dinamicamente conforme durações de sessão observadas divergem das anteriores.
MISA-T alcança seus ganhos de throughput contra uma baseline sintonizada por sweep, não uma configuração padrão de Router vLLM. O time de comparação executou sweeps de hiperparâmetros no router ciente de cache antes de medir, então o intervalo representa melhoria algorítmica genuína sobre um sistema bem configurado. Nas ablações apenas-rollout, taxas de hit de prefixo-cache permanecem altas ao lado de ganhos de throughput, confirmando que MISA-T não troca eficiência de cache por throughput de admissão.
Para times de plataforma de inferência, o regime onde isso importa mais é pós-treinamento assíncrono em escala: um modelo ator em vLLM gerando rollouts enquanto um cluster de treinamento separado executa FSDP ou Megatron com GRPO. O passo de rollout é o gargalo de caminho crítico. Uma redução de 22,8% no tempo médio de iteração se compõe em milhares de passos de treinamento. Sistemas como RollArt (Alibaba, 96 H800 + 32 H20 GPUs) e BiDiRL (compartilhamento de recurso bidirecional rollout/treinamento) mostram que throughput de rollout limita diretamente o throughput de treinamento. MISA-T alvo a lacuna de agendamento dentro do pool de rollout que nenhum sistema aborda.
O artigo avalia dois modelos: Step3.7 (um modelo de raciocínio denso) e Qwen3.6-35B-A3B (um modelo MoE com 3,6B parâmetros ativos por token). O delta de throughput é maior em Step3.7 (53,3%) do que Qwen3.6-35B-A3B (43,6%), provavelmente refletindo condições de orçamento KV mais justas em modelos densos. O artigo não relata contagem de GPU ou topologia de cluster, tornando extrapolação para implantações multi-nó maiores incerta. O roteiro RL Q2 2026 do vLLM já lista perfis adaptativos de throughput/latência para cauda longa de rollout RL e transporte de artefato baseado em RDMA como itens abertos. MISA-T aborda a camada de agendamento entre essas duas preocupações mas não resolve overhead de sincronização de peso entre clusters.
Para pipelines de pós-treinamento misturando RLVR, RLHF e rollout agentos em réplicas vLLM compartilhadas, a abordagem em camada de roteamento de MISA-T requer nenhuma mudança na framework de treinamento ou mecanismo de inferência — apenas no router que despacha sessões para réplicas.