Qualcomm presentó High Bandwidth Compute como una arquitectura diseñada para reducir uno de los principales límites de la infraestructura de IA, el traslado constante de datos entre la memoria y el procesador. La propuesta busca ejecutar parte del trabajo cerca del lugar donde permanece la información, con menor latencia y consumo energético.
Admin
HBC reduce el movimiento de datos en cargas de IA
Los modelos de IA requieren recuperar de forma continua parámetros, contextos y resultados intermedios almacenados en memoria. Cuando el ancho de banda no es suficiente, las unidades de procesamiento permanecen esperando información y el rendimiento efectivo queda por debajo de su capacidad teórica.
Qualcomm HBC incorpora lógica de procesamiento dentro o junto al paquete de memoria, lo que permite ejecutar allí las operaciones más dependientes del acceso a datos. El acelerador principal conserva las tareas complejas y la coordinación general, mientras HBC atiende aquellas funciones condicionadas por el ancho de banda.
Esta distribución no reemplaza al procesador central de IA, sino que divide el trabajo según la naturaleza de cada operación. La compañía plantea que esta arquitectura permite ampliar de forma conjunta la capacidad de memoria, el ancho de banda y el procesamiento, en lugar de concentrar toda la carga en una única XPU.
Admin
Rashid Attar, VP senior de Ingeniería de Qualcomm Technologies, señaló que el límite de la infraestructura de IA se ha desplazado desde la capacidad aritmética hacia la forma en que los sistemas acceden a la memoria.
“El cuello de botella se ha desplazado. La próxima era del rendimiento se ganará o perderá en la memoria o cerca de ella, no en el procesador”.
La hoja de ruta contempla Dragonfly AI250 con Qualcomm HBC Gen 1 y Dragonfly AI300 con HBC Gen 2. Según Qualcomm, ambas generaciones fueron diseñadas para aumentar el ancho de banda efectivo de memoria frente a Dragonfly AI200 con LPDDR5X.
