Cargas de Agentes Impulsionam Receita de Sandboxes da Modal de US$ 300 Milhões

Modal Labs segurou US$ 355 milhões em financiamento de Série C, avaliando a empresa em US$ 4,65 bilhões. Mais notável do que o financiamento é a mistura de receita: sandboxes agora representam mais de um terço da receita anual recorrente (ARR) da empresa de US$ 300 milhões, com mais de um bilhão de sandboxes lançados até o momento, conforme o anúncio da Série C e o podcast Latent Space com o CTO Akshat Bubna. Isso indica que as cargas de agentes — ciclos de chamada de ferramentas com várias etapas, com estado, executando código não confiável, inspecionando saída e tentando novamente — tornaram-se o principal impulsor da infraestrutura de IA, superando a inferência sem estado.

A abordagem arquitetônica da Modal aborda as limitações do Kubernetes e do serverless tradicional, que foram projetados para ciclos de solicitação/resposta HTTP em vez de agentes que exigem escrita de código, mutação do estado do ambiente e iteração de ciclo de feedback apertado. A solução da empresa é uma pilha baseada em Rust do zero — sistema de arquivos personalizado, tempo de execução de container, agendador e instantâneos de memória GPU — acessível por meio de decoradores Python que integram funções serverless, sandboxes, inferência elástica com decodificação especulativa, containers em rede, IPv6 privado, RDMA e treinamento de vários nós em um plano de controle unificado. Modal agrega capacidade entre 17 provedores de nuvem e centenas de centros de dados, reclamando a capacidade de escalar de zero para 1.000 GPUs em segundos sem reservas, uma capacidade considerada essencial para gerenciar cargas de trabalho AI irregulares e heterogêneas que o Kubernetes não foi projetado para lidar.

A plataforma está sendo testada em extremos. Instantâneos de GPU melhoraram os cold starts em 100 vezes. Lançamentos de aprendizado por reforço exigiram até 100.000 sandboxes em paralelo. Decagon relata uma latência p90 de 342 ms para inferência de conversas voltadas ao cliente, enquanto Physical Intelligence cita overhead de inferência de borda abaixo de 10 ms ao lado de grandes empregos em lote. Ramp's Inspect codifica agentes que autorizam 70 por cento dos PRs mesclados na plataforma. A cifra de ARR de US$ 300 milhões, aumentada aproximadamente 5 vezes de US$ 60 milhões em setembro de 2025, sugere que essas cargas de trabalho transitaram do experimental para a escala de produção, com o blog da Modal notando que Lovable alimentou a criação de 250.000 aplicativos em um único fim de semana usando mais de um milhão de sandboxes.

A transição de "experiência do desenvolvedor" para "experiência do agente" apresenta desafios operacionais. Quando agentes escrevem o código, a observabilidade torna-se mais difícil do que a leitura de código — a depuração de artefatos gerados por agentes através de painéis tradicionais não escala, e a conversa Latent Space ressalta que a observabilidade pode ser mais crítica do que a revisão de código quando o autor é não-humano. Agentes de produção exigem restrições estritas, ainda que a RBAC granulada da Modal para o escopo das capacidades dos agentes esteja por vir.

A visão de colapsar o ciclo de treinamento e inferência — treinamento de RL de vários nós alimentando diretamente a inferência elástica e grandes frotas de sandboxes — ainda está em desenvolvimento. Cognition pode executar milhões de sandboxes e serviço em tempo real na mesma substrato, conforme mencionado no post de blog da Série C, mas a maioria das empresas ainda não adaptou seus eval harnesses para acomodar a deriva gerada por agentes ou a dinâmica de custo de disparos paralelos de 100.000 sandboxes.

Arquitetos devem considerar a adoção do padrão da Modal de tratar sandboxes, instantâneos de GPU e inferência elástica como primitivos serverless composíveis por decoradores em vez de containers orquestrados, reconhecendo que a infraestrutura de agentes deve ser estatizada, executável e observável por padrão.