Vera CPU Supera x86 em Execução de Sandbox até 1.9x

NVIDIA lançou a Vera, sua primeira CPU de data center customizada, que alega desempenho sustentado por núcleo 1.8x mais rápido para cargas de trabalho de sandbox agênte em comparação com x86. Benchmarks independentes do Phoronix indicam que supera o EPYC 9575F, a peça de proeminência da AMD, em 10% no geomean de todos os testes.

O die monolítico de 88 núcleos é impulsionado pelo núcleo Olympus da NVIDIA, um design de fora de ordem de 10-wide com suporte a SVE2 FP8, 2 MB de L2 privado por núcleo e um cache L3 unificado de 162–164 MB. Ele possui módulos de memória LPDDR5X SOCAMM que fornecem 1.2 TB/s de largura de banda a menos de 40 W, e o blog de desenvolvedores da NVIDIA especifica 14 GB/s de largura de banda de memória uniforme por núcleo — três vezes a taxa de CPUs de data center típicas baseadas em DDR5. Um segundo geração de Fabrica de Coherência Escalarizada oferece 3.4 TB/s de largura de banda de bisseção núcleo-a-núcleo, permitindo que a Vera mantenha mais de 90% da largura de banda de memória de pico sob carga total. Como a CPU hospedeira para as plataformas Vera Rubin da NVIDIA, a Vera também se conecta a GPUs via NVLink-C2C de segunda geração a velocidades de até 1.8 TB/s.

A Vera visa a camada de orquestração que GPUs tipicamente negligenciam. A NVIDIA emparelha a CPU com um TDP configurável de 250 W–450 W e enfatiza latência determinística de seu layout monolítico, evitando saltos NUMA de chiplet ou quedas de desempenho quando threads transbordam entre domínios. Para pilhas agêntes, isso significa que a execução de código sandbox, chamadas de ferramentas e recuperação de dados permanecem na CPU sem latência de envio para uma GPU. Os testes da Perplexity encontraram a Vera 1.5x mais rápida do que x86 para clonar um repositório e executar testes, e 1.9x mais rápida em iniciar sandboxes concorrentes. O suporte a SVE2 FP8 também permite que passos de pontuação leve ou inferência quantizada sejam executados no núcleo em vez de atravessar o tecido PCIe, alinhando-se com previsões de que a indústria estima que data centers agênte requerão aproximadamente quatro vezes a contagem de núcleos de CPU por gigawatt do que instalações centradas em treinamento, mudando as proporções de CPU de host do antigo 1:8 para 1:1.

Michael Larabel, fundador do Phoronix, descreveu a Vera como a CPU de servidor não-x86 mais competitiva que ele testou, observando um aumento geomean de 63% em relação ao chip Grace anterior da NVIDIA e um salto de 55% em relação ao Xeon 6980P de 128 núcleos da Intel. A NVIDIA alega 40% de latência de carga de pico menor em comparação com x86, e o blog de desenvolvedores da NVIDIA Vera CPU Efficiency for AI Factories afirma que "Com uma capacidade de mais de 22.5K sandboxes, a Rack da CPU Vera entrega mais de 4x a capacidade e 2x o desempenho por watt dos racks de servidor baseados em x86." A Vera já está em produção total na CoreWeave, Lambda, Oracle Cloud Infrastructure e outros, com ampla disponibilidade OEM esperada da Dell, HPE, Lenovo e Supermicro na segunda metade de 2026.

A migração para a Vera traz desafios. Binários otimizados requerem GCC 16.1 ou LLVM Clang 21 ou mais novo — a NVIDIA upstreamou o suporte ao Olympus em março de 2025 — o que significa que containers x86 existentes e bibliotecas ajustadas não serão compatíveis. O ecossistema de memória LPDDR5X é distinto do DDR5 padrão, e a estratégia de die monolítico, enquanto evita a variância de latência do chiplet, levanta questões de rendimento e custo para um componente de 88 núcleos que a NVIDIA não abordou publicamente. Se a sua pilha de inferência ainda estiver dominada por grandes passadas de modelo avançado, as ganâncias da CPU podem não mudar sua economia de unidade.

Para aqueles cujos agentes passam mais tempo orquestrando sandboxes e aguardando pela memória do que dentro de uma camada de transformador, considere a adoção da topologia de die monolítico mais largura de banda uniforme e exija latência carregada determinística de sua CPU hospedeira, não apenas sua GPU.