A Amazon disse a seus próprios engenheiros em maio para deixar de desperdiçar ciclos de CPU. A diretiva, entregue em reuniões internas e reportada pela The Information, ordenou aos usuários de EC2 reduzir instâncias de baixa utilização para liberar capacidade para clientes pagantes. O tempo de provisionamento se estendeu de horas para dias. Um engenheiro veterano da Amazon disse à The Information que nunca havia esperado tanto por uma instância de computação.
A causa imediata: workloads de IA agentic estão consumindo CPU em uma taxa que a infraestrutura nunca foi projetada para suportar.
A inferência de IA tradicional usava uma CPU para cada oito GPUs. A CPU tokenizava entradas, roteava requisições e mantinha as filas de GPU alimentadas—trabalho leve. Workloads agentic quebram esse modelo. Cada loop de agente—planejar, chamar ferramenta, analisar resposta, re-tokenizar, rotear para o próximo sub-agente—executa quase inteiramente em CPU. Um artigo de Georgia Tech e Intel de novembro de 2025 mediu: processamento de ferramentas em CPUs representa 50 a 90 por cento da latência total em workloads agentic.
O CFO da Intel, David Zinsner, confirmou na chamada de resultados Q1 2026 que a proporção CPU-to-GPU em data centers se moveu de 1:8 para 1:4. Ele disse que deployments agentic poderiam empurrá-la para 1:1. Os analistas do JP Morgan modelaram uma proporção ideal de sete CPUs por GPU.
A aritmética prática é brutal. Em um nó padrão com 8 GPUs e 64 vCPUs, um job de rollout GRPO chamando uma sandbox de execução de código satura todos os núcleos de CPU em aproximadamente 32 workers concorrentes. GPUs ficam ociosas esperando trajetórias pontuadas. Um pipeline LangGraph ou CrewAI de 10 agentes fazendo três chamadas de ferramenta por passo precisa de aproximadamente 30 threads de CPU simultâneos por rodada de inferência. O time de infraestrutura da Spheron recomenda 16–24 vCPUs por GPU para pipelines executando dez ou mais agentes concorrentes. A maioria das instâncias EC2 existentes são subdimensionadas por essa proporção.
A demanda superou a oferta. Dylan Patel da SemiAnalysis reportou que Amazon e Microsoft esgotaram todo seu inventário de CPU para firmas de IA incluindo OpenAI e Anthropic. Amazon triplicou sua contagem de servidores CPU ano a ano e ainda assim esgotou a oferta. OpenAI portou todo seu codebase para ARM para acessar instâncias AWS Graviton—Graviton5, construída em TSMC N3 com 192 cores, é atualmente a opção de maior densidade da Amazon.
Os preços de CPU de servidor subiram 20 por cento desde março; os preços médios de venda subiram 27 por cento em Q1 2026. Os prazos de entrega para CPUs de servidor com alto número de cores se estenderam para seis meses. Intel confirmou que a demanda por Xeon excede a oferta por uma margem "significativa" e deslocou capacidade de wafer de chips para consumidores para produção de data center.
A escassez não é uniforme. O aperto de capacidade da Amazon está concentrado em instâncias spot. As fontes da The Information confirmaram que a capacidade reservada contratada não experimentou escassez. Arquitetos que travaram acordos de instância reservada antes de Q1 estão isolados; times em on-demand ou spot estão competindo pelo que resta.
Risco de custo agrava risco de capacidade. Um agente de codificação dentro da Amazon gastou US$ 1,8 milhão em custos de token no mês passado, excedendo seu orçamento de desenvolvimento em 860 por cento. Loops agentic que giram sub-agentes ilimitados saturam CPU e geram volume de token que sobrecarrega controles de custo.
O takeaway para arquitetos: CPU é a nova GPU em deployments agentic. Capacidade reservada é a única capacidade confiável. Qualquer loop de agente sem limites de concorrência explícitos e planejamento de proporção CPU-to-GPU é um incidente de latência e custo esperando para acontecer.