StreamMA Reduz Latência de Raciocínio Multi-Agente em 26,9×

StreamMA, uma nova arquitetura de raciocínio multi-agente, alcançou um aumento de velocidade de 26,9× no relógio de parede com 64 agentes e 64 etapas por agente, enquanto aumenta a precisão em uma média de 7,3 pontos percentuais em benchmarks de matemática, ciência e código, conforme detalhado em um artigo do arXiv de pesquisadores da HKUST(GZ), Alibaba Group, ZJU e HKUST. O sistema substitui o protocolo tradicional de geração-e-então-transferência por uma abordagem de streaming, onde cada token de raciocínio é enviado para agentes downstream imediatamente após a decodificação, transformando cadeias profundas de agentes em trabalhadores em pipeline e evitando gargalos sequenciais.

A arquitetura é leve, com uma implementação pública no GitHub que opera em APIs padrão compatíveis com a OpenAI, exigindo apenas `asyncio` e um dicionário Python para definir topologias DAG por chaves `next` por agente para layouts Chain, Tree e Graph. Experimentos compararam o StreamMA com o Claude Opus 4.6 e o GPT-5.4, com preços de $5 por milhão de tokens de entrada, $25 por milhão de tokens de saída e $0,50 por milhão de tokens em cache. Notavelmente, uma configuração do StreamMA com quatro agentes custando $2,75 desempenhou melhor do que uma pipeline serial de dezesseis agentes custando $5,46, alcançando maior precisão aproximadamente na metade do custo de inferência.

O aumento de velocidade operacional aproxima-se, mas não alcança o limite teórico, com um teto de forma fechada de AS/(S+A−1) que rende 32,3× para A=64 e S=64; o medido 26,9× representa 83 por cento desse limite sob cargas de trabalho pesadas de decodificação. Uma amostra de cadeia de três agentes registrou 123,3 segundos, 308,7 segundos e 221,1 segundos de tempo de API por agente, com tempo de relógio de parede reduzido para 376 segundos para um aumento de velocidade de 1,74× nessa topologia menor. Agentes downstream na amostra alcançaram taxas de acerto do cache KV de 34,98 por cento e 53,89 por cento, indicando que uma parte do contexto deve ser reprocessada. Os autores também identificaram uma "lei de escalonamento de etapa", onde aumentar o número de etapas de raciocínio por agente melhora tanto a eficácia quanto a eficiência.

As ganhos de precisão são contra-intuitivos, pois o artigo mostra que as etapas iniciais de raciocínio são mais confiáveis do que as posteriores. Na linha de base serial, agentes downstream aguardam a cadeia completa, ingirindo a cauda propensa ao erro e acumulando erros. StreamMA permite que agentes downstream comecem a formar seus próprios trajectos após a primeira etapa confiável, diluíndo a influência da cauda ruidosa. Experimentos de perturbação confirmam essa sensibilidade: corromper a cauda deu ao StreamMA uma vantagem de 24,0 pontos percentuais sobre a serial, enquanto corromper a cabeça resultou em uma perda de 36,0 pontos percentuais, realçando a dependência da arquitetura na fidelidade dos tokens iniciais.

Para praticantes, as taxas de acerto do cache KV sugerem que a sobreposição parcial não é gratuita; agentes downstream ainda incorrem em um custo significativo de pré-preenchimento. As economias de 7,5 por cento obtidas na análise de forma fechada assumem a reutilização total do cache KV, que a execução da amostra não alcançou. A regressão da perturbação da cabeça implica que o StreamMA é uma regressão estrita se agentes upstream produzirem raciocínio inicial ruim, sugerindo que o padrão é seguro apenas com modelos de fronteira onde a confiabilidade do passo inicial é mantida. O framework assume APIs de streaming com baixa latência o suficiente para entregas token-por-token; endpoints agrupados ou limitados pela taxa verão o limite teórico colapsar.

Praticantes devem considerar tratar a comunicação inter-agente como um pipeline de tokens em vez de uma entrega de documento, pois os primeiros cem tokens de raciocínio carregam mais sinal do que os últimos mil.