Vera CPU Supera x86 en Ejecución de Sandbox hasta en 1.9x

NVIDIA ha lanzado Vera, su primera CPU de centro de datos construida a medida, que afirma tener un rendimiento sostenido por núcleo 1.8x más rápido para cargas de trabajo de sandbox agénicas en comparación con x86. Las mediciones independientes de Phoronix indican que supera en 10% a la EPYC 9575F de AMD, la cual es su procesadora insignia, en un geomedio de todas las pruebas.

El núcleo monolítico de 88 núcleos está impulsado por el núcleo Olympus de NVIDIA, un diseño de 10 instrucciones fuera de orden con soporte a SVE2 FP8, 2 MB de caché L2 privada por núcleo y una caché unificada L3 de 162–164 MB. Contiene módulos de memoria LPDDR5X SOCAMM que proporcionan 1.2 TB/s de ancho de banda a menos de 40 W, y el blog de desarrolladores de NVIDIA especifica 14 GB/s de ancho de banda de memoria uniforme por núcleo, el triple de la tasa típica de CPUs de centro de datos basadas en DDR5. Un segundo generación de Scalable Coherency Fabric ofrece 3.4 TB/s de ancho de banda bisectional núcleo a núcleo, permitiendo que Vera mantenga más del 90% del ancho de banda de memoria pico bajo carga completa. Como la CPU anfitriona para las plataformas Vera Rubin de NVIDIA, Vera también se conecta a GPUs a través de la segunda generación NVLink-C2C a velocidades de hasta 1.8 TB/s.

Vera se dirige a la capa de orquestación que los GPUs suelen pasar por alto. NVIDIA combina la CPU con un TDP configurable de 250 W a 450 W y enfatiza la latencia determinista de su diseño monolítico, evitando saltos NUMA de chiplet o deslices de rendimiento cuando los hilos se desbordan en dominios. Para pilas agénicas, esto significa que la ejecución de código sandbox, las llamadas de herramienta y la recuperación de datos permanecen en la CPU sin latencia de envío a una GPU. Las pruebas de Perplexity encontraron que Vera es 1.5x más rápida que x86 para clonar un repositorio y ejecutar pruebas, y 1.9x más rápida en la activación de sandboxes concurrentes. El soporte a SVE2 FP8 también permite que pasos de puntuación ligera o inferencia cuantizada se ejecuten en el núcleo en lugar de cruzar el tejido PCIe, alineándose con las previsiones de la industria de que Arm estima que los centros de datos agénicos requerirán aproximadamente cuatro veces el número de núcleos de CPU por gigavatios que las instalaciones centradas en el entrenamiento, moviendo las proporciones de CPU anfitrión desde la antigua 1:8 hacia 1:1.

El fundador de Phoronix, Michael Larabel, describió Vera como la CPU de servidor no x86 más competitiva que había probado, señalando un aumento geomedio del 63% sobre el chip Grace anterior de NVIDIA y un salto del 55% sobre el Xeon 6980P de 128 núcleos de Intel. NVIDIA afirma una latencia de carga pico 40% menor en comparación con x86, y el blog de eficiencia de la CPU de NVIDIA Vera para Fábricas de IA afirma que "Con una capacidad de más de 22.5K sandboxes, el Rack de CPU Vera entrega más del 4x la capacidad y el doble de rendimiento por vatío de los racks de servidor basados en x86". Vera ya está en producción completa en CoreWeave, Lambda, Oracle Cloud Infrastructure y otros, con una amplia disponibilidad OEM de Dell, HPE, Lenovo y Supermicro esperada en la segunda mitad de 2026.

La migración a Vera trae desafíos. Los binarios optimizados requieren GCC 16.1 o LLVM Clang 21 o más reciente—NVIDIA upstreamed soporte Olympus en marzo de 2025—lo que significa que los contenedores x86 existentes y las bibliotecas ajustadas no serán compatibles. El ecosistema de memoria LPDDR5X es distinto del DDR5 estándar, y la estrategia de núcleo monolítico, aunque evita la varianza de latencia de chiplet, plantea preguntas de rendimiento y costo para una parte de 88 núcleos que NVIDIA no ha abordado públicamente. Si su pila de inferencia sigue dominada por pasadas grandes del modelo, las ganancias de la CPU pueden no cambiar su economía de unidades.

Para aquellos cuyos agentes pasan más tiempo orquestando sandboxes y esperando en la memoria que dentro de una capa de transformador, consideren adoptar la topología de núcleo monolítico más ancho de banda uniforme y exijan latencia carga determinista de su CPU anfitriona, no solo de su GPU.