NVIDIA Spectrum-6 Ethernet alcanza 102,4 Tbps, implementado por CoreWeave, Microsoft, Nebius para IA a escala gigante

NVIDIA ha lanzado el switch Ethernet Spectrum-6, entregando 102,4 terabits por segundo de capacidad de conmutación total—el doble de la generación anterior—como parte de la plataforma Vera Rubin para fábricas de IA a gran escala. El switch ancla la plataforma Ethernet Spectrum-X de NVIDIA, combinando el chip Spectrum-6 con el SuperNIC ConnectX-9 para manejar patrones de comunicación colectiva sincronizada en cientos de miles de GPUs.

El Spectrum-6 está diseñado para resolver un cuello de botella central en IA a escala gigante: Ethernet fue construido para tráfico empresarial norte-sur, no para las demandas de comunicación este-oeste intensas de operaciones colectivas durante el entrenamiento e inferencia de modelos. NVIDIA afirma que el Ethernet Spectrum-X entrega hasta 1,6x mayor rendimiento de red de IA que Ethernet estándar y sustenta hasta 95% de eficiencia de red en implementaciones que superan 100.000 GPUs, mientras reduce switches necesarios en 1,7x.

CoreWeave, Microsoft, Nebius y SpaceXAI están entre los primeros en implementar Spectrum-6. El switch Spectrum-X SN6600 de CoreWeave, construido sobre Spectrum-6, ahora está cosiendo racks NVL72 individuales en clusters unificados para que miles de GPUs puedan entrenar como un sistema. Para operadores, Spectrum-6 significa operaciones colectivas más rápidas, mayor utilización de GPU y mejor economía de costo por token a escala—crítico mientras que la IA con agentes y cargas de trabajo de contexto largo aumentan las demandas de tokens.