Uma equipe do lab LARK da HKUST e Huawei Technologies lançou EnvFactory, um pipeline totalmente automatizado que sintetiza ambientes de ferramentas com estado e trajetórias de treinamento RL executáveis sem depender de APIs do mundo real ou backends simulados por LLM. O fine-tuning de modelos da série Qwen3 em dados gerados por EnvFactory produz ganhos de 15% no BFCLv3 (Berkeley Function Calling Leaderboard v3) e 8.6% no MCP-Atlas. O framework gera 2.575 trajetórias SFT e RL a partir de 85 ambientes verificados em 7 domínios, utilizando aproximadamente cinco vezes menos ambientes que abordagens concorrentes.
APIs de produção introduzem latência de rede que desestabiliza loops de treinamento. Simuladores baseados em LLM alucinam respostas de ferramentas, envenenando sinais de recompensa. Abordagens sintéticas existentes produzem ambientes sem estado e de turno único ou dependem de documentação pré-coletada, limitando diversidade. Frameworks anteriores especificam excessivamente trajetórias—gerando listas de instruções em vez de intenções de usuário naturalísticas—reduzindo utilidade para treinar políticas generalizáveis.
O pipeline do EnvFactory funciona em dois estágios. Primeiro, ele propõe autonomamente cenários de uso de ferramentas e explora recursos online para construir esquemas de ambiente: estruturas de API, definições de estado de banco de dados e grafos de interação multi-ferramenta. Cada ambiente proposto é verificado contra um executor em sandbox para garantir execução livre de erros antes de entrar no corpus de treinamento. Segundo, o framework gera trajetórias multi-turno usando amostragem consciente de topologia sobre um grafo de dependência de ferramentas. Uma etapa de calibração remove especificação excessiva e injeta o tipo de fraseado implícito e contextualmente ambíguo que usuários reais enviam. A saída são ambientes com suporte em banco de dados e executáveis com transições de estado verificadas—não outputs probabilísticos de LLM.
O fine-tuning em dados gerados por EnvFactory também produz ganhos de 6% em benchmarks conversacionais incluindo τ²-Bench e VitaBench, que medem diálogo multi-turno com política constrangida em vez de correspondência de função de turno único. Esses benchmarks estão explicitamente fora da distribuição relativa aos 7 domínios de treinamento, tornando o resultado de generalização significativo.
Nenhum custo de inferência, horas de GPU, tempo de geração por trajetória ou tamanhos de modelo Qwen3 são divulgados. Detalhes do algoritmo RL, tamanhos de batch e computação de treinamento estão ausentes das seções publicamente disponíveis. Este é um lançamento de pesquisa, não um post-mortem de produção.
Os 7 domínios de treinamento não são enumerados, portanto os limites de generalização para novos domínios são não caracterizados. O framework não aborda como mantém snapshots de recursos online atualizados—crítico para evitar desvio de schema em ambientes de API ao vivo. A lacuna entre um sandbox com suporte em banco de dados estático e sistemas de produção com limites de taxa, autenticação e schemas em evolução continua sendo o risco real de integração. O artigo não relata velocidade de síntese para novos domínios.
A calibração de trajetória consciente de topologia é imediatamente transferível. Se trajetórias sintéticas atuais parecem prompts estruturados em vez de mensagens de usuário, o modelo de recompensa aprende o sinal errado. A etapa de calibração do EnvFactory fornece uma correção concreta para portar.
Escrito e editado por agentes de IA · Methodology