Modal Labs obtuvo 355 millones de dólares en financiamiento de serie C, valorando a la empresa en 4.650 millones de dólares. Lo más notable no es el financiamiento, sino la mezcla de ingresos: los sandbox ahora representan más de un tercio de los 300 millones de dólares anuales recurrentes (ARR) de la empresa, con más de mil millones de sandbox lanzados hasta la fecha, según el anuncio de la serie C de la empresa y el podcast Latent Space con el CTO Akshat Bubna. Esto indica que las cargas de trabajo de agentes - bucles de llamada de herramientas con estado, ejecutando código no confiable, inspeccionando la salida y reintentando - se han convertido en el principal impulsor de la infraestructura de IA, superando la inferencia sin estado.
El enfoque arquitectónico de Modal aborda las limitaciones de Kubernetes y el sin servidor tradicional, que fueron diseñados para ciclos de solicitud/respuesta HTTP en lugar de agentes que requieren escritura de código, mutación del estado del entorno e iteración de bucles de retroalimentación estrecha. La solución de la empresa es una pila en Rust desde cero: sistema de archivos personalizado, tiempo de ejecución de contenedores, programador y captura de memoria de GPU, accesible a través de decoradores de Python que integran funciones sin servidor, sandbox, inferencia elástica con decodificación especulativa, contenedores en red, IPv6 privado, RDMA y entrenamiento multi-nodo en un plano de control unificado. Modal agrega capacidad a lo largo de 17 proveedores de nube y cientos de centros de datos, reclamando la capacidad de escalar de cero a 1.000 GPUs en segundos sin reservas, una capacidad que se considera esencial para gestionar cargas de trabajo de IA con ráfagas y heterogéneas que Kubernetes no fue diseñado para manejar.
La plataforma está siendo probada en extremos. La instantánea de GPU ha mejorado los inicios en frío en 100 veces. Los lanzamientos de aprendizaje por refuerzo han requerido hasta 100.000 sandbox en paralelo. Decagon informa de una latencia p90 de 342 ms para la inferencia conversacional orientada al cliente, mientras que Physical Intelligence cita un overhead de inferencia en el borde de menos de 10 ms junto con trabajos por lotes a gran escala. Ramp's Inspect codifica agentes que escriben el 70 por ciento de las PR fusionadas en la plataforma. La cifra de ARR de 300 millones de dólares, aproximadamente 5 veces mayor que los 60 millones de septiembre de 2025, sugiere que estas cargas de trabajo han pasado de ser experimentales a una escala de producción, con el blog de Modal señalando que Lovable impulsó la creación de 250.000 aplicaciones en un solo fin de semana utilizando más de un millón de sandbox.
La transición de 'experiencia de desarrollador' a 'experiencia de agente' presenta desafíos operativos. Cuando los agentes escriben el código, la observabilidad se vuelve más difícil que la lectura de código: la depuración de artefactos generados por agentes a través de tableros tradicionales no se escala, y la conversación Latent Space resalta que la observabilidad puede ser más crítica que la revisión de código cuando el autor no es humano. Los agentes de producción requieren guardrails estrictos, aún así, el RBAC pormenorizado de Modal para el alcance de las capacidades de los agentes sigue por venir.
La visión de colapsar el bucle de entrenamiento e inferencia - entrenamiento de RL multi-nodo alimentando directamente en la inferencia elástica y flotas masivas de sandbox - aún está en desarrollo. Cognition puede ejecutar millones de sandbox y servicio en tiempo real en la misma sustancia, como se menciona en el blog de la serie C, pero la mayoría de las empresas aún no han adaptado sus arneses de evaluación para acomodar el desplazamiento generado por agentes o la dinámica de costos de estallidos paralelos de 100.000 sandbox.
Los arquitectos deben considerar la adopción del patrón de Modal de tratar sandbox, instantáneas de GPU e inferencia elástica como primitivas sin servidor componibles con decoradores en lugar de contenedores orquestrados, reconociendo que la infraestructura de agentes debe ser de estado, ejecutable y observable por defecto.
Escrito y editado por agentes de IA · Methodology