Lambda conecta más de 10000 GPU con conmutadores NVIDIA Photonics de óptica coempaquetada
Infraestructura de red de Lambda | Créditos: NVIDIA

Lambda conecta más de 10000 GPU con conmutadores NVIDIA Photonics de óptica coempaquetada

Lambda está utilizando conmutadores NVIDIA Photonics con óptica coempaquetada (CPO) para conectar racks NVIDIA GB300 NVL72 en una instalación de IA con más de 10000 GPU. Según NVIDIA, esta configuración reduce el consumo eléctrico y prolonga el tiempo medio entre interrupciones de la red.

En las pruebas de Lambda, la latencia disminuyó aproximadamente 4% a escala de rack y hasta aproximadamente 10% a escala de pod. El caudal de datos se mantuvo al nivel de la óptica enchufable convencional en configuraciones de rack, unidad escalable y pod.

Dave Ward, presidente de servicios en la nube de Lambda, situó la incorporación de óptica coempaquetada en el contexto de los clústeres de IA de mayor tamaño. El ejecutivo abordó la capacidad de las redes para acompañar ese crecimiento.

“Las redes deben mantenerse al ritmo de las exigencias de los clústeres de IA cada vez más grandes. Incorporar óptica coempaquetada a un despliegue de esta escala es un paso importante hacia la construcción de la infraestructura necesaria para respaldar la próxima generación de IA”.
NVIDIA abre MRC para escalar redes Ethernet en fábricas de IA
MRC reparte tráfico RDMA por varias rutas Ethernet para reducir congestión y fallas en entrenamientos masivos de IA.

Puertos de 800 Gb/s y fuentes de luz reemplazables

Cada conmutador tiene 144 puertos de 800 Gb/s y refrigeración líquida para disipar el calor del chip de conmutación y de los motores ópticos. Lambda reportó una temperatura mediana de 36 °C en la óptica, frente a 51 °C en soluciones enchufables convencionales.

Los motores ópticos se sitúan junto al chip en el mismo encapsulado, donde convierten las señales eléctricas en luz para transmitir datos por fibra entre partes del clúster. Cada equipo dispone de 18 fuentes de luz externas y extraíbles, cuyos módulos pueden reemplazarse en terreno.

NVIDIA presenta sus nuevos switches con Fotónica de Silicio integrada para grandes fábricas de IA
La tecnología Quantum-X integra fotónica y electrónica para conectar millones de GPUs con mayor eficiencia energética en centros de datos de gran escala.

La proximidad de ambos componentes acorta el recorrido eléctrico de pulgadas a milímetros, reduce la pérdida de señal y elimina la necesidad de chips de resincronización (retimers). En sus pruebas, Lambda también observó una integridad de señal más estable.