NVIDIA y Oracle anunciaron la ampliación prevista de OCI Superclusters con sistemas NVIDIA Vera Rubin NVL72 a una escala de varios gigavatios. El comunicado del 27 de octubre también confirmó la disponibilidad general de Vera Rubin NVL72 y de las CPU NVIDIA Vera en la nube de Oracle.
La combinación está orientada a dos tipos de procesamiento: las GPU para entrenar y ejecutar modelos de IA, y las CPU para las tareas que los agentes realizan entre llamadas a esos modelos. OCI permite escalar ambos recursos de manera independiente según cada carga.
Admin
Las CPU Vera se destinan a las tareas de los agentes de IA
En OCI Compute, las CPU Vera están destinadas a operaciones como ejecutar herramientas, probar código y recuperar datos, que pueden dejar inactivas a las GPU mientras se completan. Según NVIDIA, el rendimiento por hilo y el ancho de banda de memoria de Vera buscan acortar esos intervalos.
Ivan
OCI Kubernetes Engine admite el escalamiento separado de CPU y GPU, mientras que Oracle Acceleron proporciona aislamiento por hardware para cargas que ejecutan código generado por IA que no se considera confiable. El objetivo declarado es reducir la capacidad de GPU ociosa durante estas operaciones.
OpenAI figura entre los clientes que accedieron anticipadamente a las CPU Vera en OCI. Uday Ruddarraju, director de tecnología de cómputo de OpenAI, explicó el uso de estos procesadores para las operaciones que sus agentes ejecutan dentro de entornos aislados.
"Las CPU NVIDIA Vera en OCI ofrecen un rendimiento de primer nivel bajo carga para ejecutar código y utilizar herramientas en nuestras cargas de trabajo de entornos aislados para agentes, que crecen rápidamente. Estamos incorporando Vera a producción en OCI para atender estas cargas de trabajo a escala".
Mahesh Thiagarajan, presidente de Oracle Cloud Infrastructure en Oracle, vinculó el uso de estos componentes con la red Acceleron y los centros de datos optimizados para IA. Su declaración abarca el entrenamiento, la inferencia y la ejecución de aplicaciones agénticas.
"[...] Nuestra colaboración con NVIDIA amplía esas capacidades en entrenamiento, inferencia e IA agéntica. Al combinar las GPU NVIDIA Vera Rubin y las CPU Vera con la red Oracle Acceleron y los centros de datos optimizados para IA, ayudamos a los clientes a mantener sus GPU productivas, operar de manera segura y escalar con eficiencia [...]".
Superclústeres NVL72 y una configuración HGX Rubin de ocho GPU
En la infraestructura de mayor tamaño, los racks NVL72 conectan 72 GPU a través de NVLink y se integran con Oracle Acceleron y NVIDIA Spectrum-X Ethernet. El diseño incorpora switches NVIDIA Spectrum-6, DPU BlueField-4 y sistemas de energía y refrigeración de categoría gigavatio.
Ivan
La red multiplano de OCI puede extenderse a cientos de miles de GPU, según el comunicado, y la expansión prevista se sumará a la infraestructura existente con NVIDIA GB200 y GB300 NVL72. CUDA se mantiene como base común de software entre generaciones de hardware.
Oracle también planea incorporar HGX Rubin NVL8 como una alternativa de ocho GPU Rubin interconectadas mediante NVLink en servidores x86. La configuración prevista incluye dos procesadores Intel Xeon 6 de 64 núcleos, 4 TB de memoria DDR5 y redes RDMA de 6,4 Tb/s para entrenamiento, ajuste fino e inferencia.
Según NVIDIA, OpenAI ha utilizado un superclúster de OCI con más de 100.000 GPU Blackwell para entrenar y ejecutar GPT-6 Astra en Abilene.
Sreekanth Pothanis, responsable de ingeniería de infraestructura de cómputo de OpenAI, describió las necesidades que prevé para sus modelos de frontera. Su declaración relaciona esas exigencias con el rendimiento y la escala de los sistemas Vera Rubin disponibles en OCI.
"A medida que nuestros modelos de frontera avanzan, necesitamos infraestructura capaz de seguirles el ritmo. NVIDIA Vera Rubin en OCI nos ofrece el rendimiento de cómputo y la escala para acelerar el entrenamiento de modelos [...]".
Ian Buck, vicepresidente de computación a hiperescala y alto rendimiento de NVIDIA, abordó la necesidad de que estas instalaciones puedan atender distintas cargas de trabajo con el tiempo. El ejecutivo destacó la continuidad del software como parte de ese planteamiento.
"Las fábricas de IA deben ser productivas, duraderas y fungibles, al proporcionar computación eficiente, seguir siendo útiles mediante avances continuos del software y atender distintos modelos y cargas de trabajo a medida que cambia la demanda [...]".
