Marvell Technology anunció un portafolio de desagregación de memoria de tres pilares diseñado para abordar la restricción crítica de la infraestructura de IA: acercar la memoria al compute y reducir cuellos de botella de datos en inferencia a gran escala. El conjunto incluye el controlador Bravera SC6 PCIe 6.0 para almacenamiento de IA adjunto al servidor (caché clave-valor), la familia Structera CXL para pooling de memoria a escala de rack y expansión, y el Photonic Fabric para arquitecturas de memoria compartida abarcando hasta 50 metros en múltiples racks. La estrategia trata la memoria como un recurso fluido distribuido en la pila, no un activo local fijo del servidor.
La familia Structera CXL combina expansión de memoria (reciclaje de DDR4 existente mediante compresión para lograr capacidad efectiva de 2–2,5x) con un acelerador de computación cerca de memoria para motores de recomendación y búsqueda de vectores, más un switch CXL 3.1 para desagregación a nivel de rack. Photonic Fabric extiende el concepto entre racks usando enlaces ópticos, soportando hasta 32 TB de descarga de caché KV cálida y reclamando mejora de throughput de tokens de 2–3x dentro de restricciones de energía y huella existentes. Estos productos abordan directamente el cambio de optimización centrada en GPU a eficiencia a nivel de sistema, donde mover datos de manera más eficiente importa tanto como throughput de acelerador bruto.
Para planificadores de infraestructura de IA, el portafolio de Marvell se dirige al cuello de botella de ancho de banda de memoria que ahora limita la escalabilidad de la inferencia. A medida que crecen las cargas de trabajo de generación de tokens y se expanden las ventanas de contexto, las arquitecturas que agrupan memoria en múltiples GPUs o racks—en lugar de distribuir capacidad por GPU—se vuelven necesarias para economías de costo por token. Los hiperscalers como Meta ya están desplegando expansión de memoria basada en CXL en millones de servidores; el portafolio de extremo a extremo de Marvell (almacenamiento, switch CXL, óptico) sugiere que el próximo campo de batalla competitivo no es FLOPS pico sino elasticidad de infraestructura y costo operativo.