Dell Pro Max GB10 habilita clusters de IA locales; sistemas Blackwell duales se agrupan para 256GB de VRAM compartida
Dell's Pro Max con NVIDIA GB10 habilita clustering de IA local rentable a través de NICs NVIDIA ConnectX 7 200Gbps y Remote Direct Memory Access over Converged Ethernet (RoCE). Un par de sistemas Pro Max GB10, cada uno con 128GB de memoria unificada LPDDR5X y 6.144 núcleos CUDA en GPU Blackwell, puede conectarse en red para crear una caja de arena de IA local de 256GB, probada por Tom's Hardware.
A aproximadamente $6.332 por sistema para la configuración probada con SSD de 4TB, un cluster de sistema dual cuesta sustancialmente menos que construir un servidor GPU equivalente con cuatro tarjetas discretas de 48–72GB además de la plataforma CPU, placa base y DDR5 requerida—que por sí sola requiere un socket Threadripper Pro o EPYC de alta gama y excede circuitos de potencia de 15 amperios estándar en el hogar. El Pro Max sacrifica algo de rendimiento absoluto por accesibilidad y practicidad: no se requiere un único host poderoso, y el consumo de energía permanece manejable en espacios de oficina o laboratorio compartidos.
La arquitectura GB10 preserva el enfoque de clustering primero del diseño de referencia DGX Spark. Cada Pro Max incluye un adaptador USB-C de 280W, SSD NVMe PCIe Gen 4 (disponibilidad Gen 5 restringida por la escasez de chips), y ConnectX 7 configurado solo para Ethernet + RoCE—no Infiniband. Este backbone RoCE-over-Ethernet habilita cargas de trabajo de inferencia distribuidas en ambos sistemas como un grupo de computación unificado.
Para investigadores, startups e ingenieros que necesitan inferencia local en modelos abiertos más grandes sin gastos en la nube del centro de datos, el par Pro Max GB10 elimina un punto de fricción importante: encajar modelos con parámetros multibillonarios en silicio local a costo total inferior a $13K con redes de clustering profesional. La simplicidad de la alimentación USB-C y las redes IP superan las compilaciones de servidores GPU personalizadas, aunque el rendimiento absoluto sigue siendo inferior a las soluciones a escala de rack.