Roadmap Imec: 2.5D optical I/O reduce potencia de interconexión de inferencia de IA de 1,25kW a <200W

Investigadores de Imec están empujando optical I/O más cerca del silício conforme las cargas de trabajo de inferencia intensifican las demandas de conectividad del sistema de IA. El instituto belga argumenta que la óptica co-empaquetada (CPO)—el enfoque de corto plazo actual de la industria—no será viáble térmicamente para futuros clústeres de IA de alto rádix. En una proyección de peor caso, un procesador que requiere 250 Tb/s de ancho de banda dentro y fuera necesitaría ~1,25 kW de potencia óptica sola bajo enfoques CPO anticipados, haciendo que el enfriamiento del sistema sea inviable cuando se apila encima de procesadores multi-kilowatt. El roadmap 2.5D optical I/O propuesto de Imec integra óptica a nivel de interpositor o sustrato, moviendo los motores ópticos más cerca de dies de cómputo en lugar de mantenerlos en el paquete.

La innovación clave es un enfoque de 'amplio y lento': muchas vías a velocidades moderadas en lugar de unas pocas vías ultra-altas-velocidad con procesamiento de señal sofisticado. El resultado: el mismo ancho de banda agregado con mucha menos energía por bit. La proyección de Imec muestra 2.5D optical I/O reduciendo potencia óptica de 1,25 kW a menos de 200 W en el mismo sistema futuro—una mejora de un orden de magnitud que hace que el diseño térmico y de sistema sea viable. El roadmap requiere avances en dispositivos ópticos (moduladores de absorción electroabsorbente, fotodetectores de alta velocidad), bonding híbrido, empaquetamiento, ensamblaje y arquitectura.

Para arquitectos de infraestructura de IA, este cambio refleja una restricción emergente crítica: conforme los modelos se mueven de entrenamiento (batch, tolerante a latencia) a inferencia (streaming, baja latencia, multi-usuario), la conectividad se ha convertido en un cuello de botella tanto como el cómputo. El tejido GPU-a-GPU en clústeres de mil aceleradores no puede sostener redes locales de bastidor basadas en cobre. El roadmap 2.5D/3D óptico de Imec señala que el próximo campo de batalla para los diseñadores de sistemas será la potencia de interconexión y presupuesto térmico, no solo flop/s por chip.