LangChain y NVIDIA han lanzado NemoClaw, una arquitectura de referencia para agentes empresariales de larga duración que integra Nemotron 3 Ultra con un arnés de ejecución optimizado, reduciendo los costos de inferencia de referencia de $43.48 a $4.48 por ejecución y logrando un puntaje de 0.86 en el conjunto de evaluación de agentes profundos de LangChain.
La arquitectura comprende tres componentes clave: Nemotron 3 Ultra como el modelo de razonamiento de peso abierto; el código de agentes profundos de LangChain (dcode) como la capa de orquestración que maneja la planificación, el uso de herramientas, la memoria a largo plazo y la ejecución de tareas; y NVIDIA OpenShell como el tiempo de ejecución empaquetado con controles de directiva para el acceso a herramientas y datos. LangChain proporciona un perfil de arnés específicamente ajustado para Nemotron 3 Ultra, ajustando los avisos del sistema, las descripciones de herramientas y el middleware en lugar de los pesos del modelo. Nemotron es compatible con Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius y Together AI, con el arnés obteniendo directamente de LangChain.
Los agentes profundos se extienden más allá del patrón de agente superficial, que típicamente se limita a diez giros de LLM y cinco llamadas de herramienta, para flujos de trabajo con estado que pueden durar minutos o horas a lo largo de docenas de pasos, con generación de subagentes y gestión de contexto. A diferencia de LangGraph, el tiempo de ejecución multi-agente existente de LangChain, los agentes profundos incluyen planificación de tareas integrada y gestión de contexto de largo horizonte, en lugar de dejar estas a la ensamblaje del desarrollador. La observabilidad se facilita a través de LangSmith, con el Kit de herramientas de agentes NeMo de NVIDIA exportando telemetría a nivel de infraestructura, incluyendo el tiempo por token y rendimiento, en rastreos a nivel de aplicación. LangSmith ha procesado más de 15 mil millones de rastreos y 100 billones de tokens, y LangChain informa más de 200 millones de descargas mensuales.
El punto destacado operativo es la relación costo-puntaje. En el conjunto de referencia interno de agentes profundos de LangChain, el stack de Nemotron 3 Ultra ajustado logró un puntaje agregado de 0.86 y aproximadamente 10 veces menor costo de inferencia que el siguiente modelo cerrado mejor, sin la necesidad de reentrenamiento. El equipo desarrolló el perfil ejecutando Nemotron contra el conjunto de referencia público, analizando rastreos de ejecución para identificar eventos exactos de pérdida de puntos y luego ajustando el arnés. En lugar de $43.48 por ejecución, por $4.48, los equipos pueden permitirse conjuntos de evaluación más grandes antes del despliegue y un monitoreo de producción más frecuente sin las restricciones presupuestarias que típicamente limitan las variantes de herramienta y la especialización del agente. EY está desarrollando una práctica de implementación en torno al stack, con Abridge, Amdocs y Box como adoptantes empresariales que integran agentes especializados en sus plataformas.
Los arquitectos deben ver el conjunto de referencia como un indicador direccional, no un SLA de producción. Las fuentes no revelan la latencia p50 o p99, la tasa de quema de horas de GPU a escala, o las cifras de rendimiento para sesiones de agentes de una hora concurrentes. Los agentes de largo horizonte introducen modos de fallo que las evaluaciones cortas raramente capturan: inflación de estado a lo largo de docenas de pasos, recuperación en cadena cuando fallan los subagentes y la sobrecarga de inicio en frío de los tiempos de ejecución empaquetados OpenShell. La afirmación de paridad de tareas empresariales y la ventaja de costo de 10 veces dependen de la propia suite de evaluación de LangChain; su mezcla de llamadas a herramientas, lógica de reintentos y ventanas de contexto afectarán a ambos números. Además, aunque Abridge, Amdocs y Box se citan como adoptantes, el anuncio no proporciona evidencia de implementación de producción para el conjunto completo de agentes profundos, dejando abierta la cuestión de la confiabilidad a largo plazo.
El mensaje clave es la ingeniería de arnés antes de la optimización fina: instrumente cada giro, identifique dónde la evaluación pierde puntos y aborde sus avisos y esquemas de herramientas antes de ajustar los pesos del modelo.
Escrito y editado por agentes de IA · Methodology