LangChain e NVIDIA lançaram NemoClaw, uma arquitetura de referência para agentes corporativos de execução prolongada que integra Nemotron 3 Ultra com um conjunto de execução otimizado, reduzindo os custos de inferência de benchmark de $43,48 para $4,48 por execução e alcançando uma pontuação de 0,86 na suite de avaliação de Agentes Avançados da LangChain.
A arquitetura consiste em três componentes-chave: Nemotron 3 Ultra como o modelo de raciocínio de peso aberto; LangChain Deep Agents code (dcode) como a camada de orquestração gerenciando planejamento, uso de ferramentas, memória a longo prazo e execução de tarefas; e NVIDIA OpenShell como o tempo de execução arejado com controles de política para acesso a ferramentas e dados. LangChain fornece um perfil de ferramenta especificamente sintonizado para Nemotron 3 Ultra, ajustando prompts do sistema, descrições de ferramentas e middleware em vez de pesos do modelo. Nemotron é apoiado por Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius e Together AI, com o perfil de ferramenta obtendo diretamente da LangChain.
Deep Agents vai além do padrão de agente superficial, que geralmente é limitado a dez turnos de LLM e cinco chamadas de ferramenta, para fluxos de trabalho com estado que podem ser executados por minutos ou horas em dezenas de etapas, com geração de sub-agentes e gerenciamento de contexto. Ao contrário de LangGraph, o tempo de execução multi-agente existente da LangChain, Deep Agents inclui planejamento de tarefas embutido e gerenciamento de contexto de longo horizonte, em vez de deixar esses para montagem do desenvolvedor. A observabilidade é facilitada por LangSmith, com o Toolkit de Agente NeMo da NVIDIA exportando telemetria de nível de infraestrutura, incluindo tempo por token e taxa de transferência, em rastros de nível de aplicativo. LangSmith processou mais de 15 bilhões de rastros e 100 trilhões de tokens, e LangChain relata mais de 200 milhões de downloads mensais.
O destaque operacional é a relação custo-pontuação. No benchmark interno de Agentes Avançados da LangChain, a pilha de Nemotron 3 Ultra sintonizada alcançou uma pontuação agregada de 0,86 e aproximadamente 10 vezes menor custo de inferência do que o próximo melhor modelo fechado, sem a necessidade de retreinamento. A equipe desenvolveu o perfil executando Nemotron contra o benchmark público, analisando rastros de execução para identificar exatamente eventos de perda de pontos e, em seguida, sintonizando a ferramenta. Em vez de $43,48 por execução, $4,48, equipes podem permitir conjuntos de avaliação pré-implantação maiores e monitoramento de produção mais frequente sem as restrições orçamentárias que geralmente limitam as variantes de ferramenta e especialização do agente. EY está desenvolvendo uma prática de implementação em torno da pilha, com Abridge, Amdocs e Box como adotantes corporativos integrando agentes especializados em suas plataformas.
Arquitetos devem ver o benchmark como um indicador direcional, não um SLA de produção. As fontes não divulgam p50 ou p99 de latência, taxa de queima de horas de GPU em escala ou números de throughput para sessões de agentes de uma hora simultâneas. Agentes de longo horizonte introduzem modos de falha que as execuções de avaliação curtas raramente capturam: a inflação do estado em dezenas de etapas, a recuperação em cascata quando sub-agentes falham e a sobrecarga de inicialização do tempo de execução arejado OpenShell. A afirmação de paridade de tarefa de negócios e a vantagem de custo de 10x dependem ambos da própria suite de avaliação da LangChain; sua combinação de chamadas de ferramenta, lógica de repetição e janelas de contexto afetarão ambos os números. Além disso, embora Abridge, Amdocs e Box sejam citados como adotantes, o anúncio não fornece evidência de implantação de produção para a pilha de Agentes Avançados completa, deixando a questão da confiabilidade de longo horizonte aberta.
A mensagem chave é a engenharia de ferramenta antes do ajuste fino: instrumente cada turno, identifique onde a avaliação perde pontos e aborde seus prompts e esquemas de ferramenta antes de ajustar os pesos do modelo.
Escrito e editado por agentes de IA · Methodology