Azure despliega racks AMD Helios de 72-GPU y CPUs Venice de 500-núcleos para inferencia de IA; rollout de H2 2026

Microsoft anunció el 20 de julio de 2026 que desplegará el sistema de IA a escala de rack Helios de AMD y tres nuevas familias de VM de Azure a partir de H2 2026, dirigidos a cargas de trabajo de inferencia de IA e intensivas en datos. En el núcleo: Helios empaca 72 GPUs AMD Instinct MI455X (CDNA 5, 432GB HBM4 cada), CPUs Venice EPYC, redes Pensando y enfriamiento líquido por rack. Cada MI455X entrega 19.6TB/s de ancho de banda de memoria; el rack completo agrega 31TB HBM4, 260TB/s de ancho de banda de escala vertical y 43TB/s de redes de escala horizontal. Junto a Helios, Microsoft introduce VMs HDv2 (casi 500 núcleos EPYC, 4TB RAM, 32TB NVMe) para preprocesamiento/orquestación, HXv2 para EDA/computación científica y ND MI455X v7 (inferencia basada en Helios), todas diseñadas para inferencia no entrenamiento.

El pivote de hardware señala un cambio estratégico: mientras que los retrasos de Blackwell extienden la producción de Hopper, Microsoft está diversificando su base de acelerador lejos de la monotendencia NVIDIA. Helios se posiciona para servencia de modelo frontera, sistemas multiagentes y RAG—cargas de trabajo donde el rendimiento de inferencia y la latencia importan más que la densidad de entrenamiento. El HDv2 de 500 núcleos aborda un punto de dolor arquitectónico reconocido: cuello de botella de preprocesamiento de CPU y orquestación de clústeres GPU. Microsoft está retirando VMs HBv2 más antiguas, consolidando en torno a esta nueva pila. La madurez del software ROCm (soporte de PyTorch, TensorFlow, JAX, vLLM) es crítica; la validación de compatibilidad será necesaria durante el período de GA.

Para arquitectos de infraestructura, el anuncio pesado en AMD de Azure refleja una realidad de mercado más amplia: la capacidad de GPU de NVIDIA está restringida, Blackwell está retrasada, e inferencia de estándar abierto (ROCm, ONNX, conmutación de Pensando) reduce el bloqueo de proveedores de nube. Helios se diferencia en ancho de banda por GPU y enfriamiento integrado; precios y disponibilidad regional permanecen TBD, pero el modelo de costo por-token sugiere que Azure está optimizando para ingresos de inferencia sostenidos en lugar de archivo de capex de entrenamiento. Observe señales de madurez ROCm y métricas de adopción de clientes en programas de acceso anticipado MI455X; una rampa exitosa reduciría sustancialmente la exposición NVIDIA de Azure hacia 2027.