Intel se enorgullece de presentar a IBM Cloud como el primer proveedor de servicios en la nube en contar con sus aceleradores de IA Intel Gaudi 3.
Admin
Esta reciente tecnología de Intel fue presentada por Intel hace aproximadamente un año, en el marco del Intel Vision 2024. Intel Gaudi 3 está pensado para escalar la GemAI en entornos empresariales, con hasta 4 veces más capacidad de cómputo en BF16 y un 50 % más de ancho de banda de memoria respecto a su predecesor, lo que permite construir sistemas con decenas de miles de aceleradores interconectados a través de Ethernet para facilitar implementaciones masivas de GenAI.
Roberto Mera Velásquez
El gigante de las CPU recalca que el acceso temprano a tecnologías de alto rendimiento para cargas de trabajo GenAI, permitirá ir reduciendo las barreras de costo en infraestructura especializada.
¿Cómo impulsa IBM Cloud el acceso empresarial a GenAI?
IBM Cloud, reconocido por su solidez en sectores regulados, ahora suma Gaudi 3 para potenciar tareas de IA sin perder seguridad ni control. Al incluir el hardware especializado de Intel, la firma puede acelerar proyectos como detección de fraudes, diagnósticos, telemedicina o modernización de sistemas, con mayor rendimiento en inferencia y ajuste de modelos.
Los aceleradores Intel Gaudi 3 están diseñados para responder a la creciente demanda de modelos generativos y de lenguaje, manteniendo un entorno de desarrollo abierto.
La puesta en marcha de estos chips para IA, estarán ubicados en los data centers de IBM Cloud ubicados en Frankfurt, Washington D.C. y Dallas. Con esto se espera entregar compatibilidad con Red Hat OpenShift y watsonx durante este trimestre.
Desde ambas compañías destacan el impacto que esta alianza tendrá en la adopción global de IA generativa, y subrayan los beneficios concretos que representa para las organizaciones.
Saurabh Kulkarni, vicepresidente de Estrategia de IA para Centros de Datos en Intel, señaló que:
"Al incorporar los aceleradores de IA Intel Gaudi 3 en IBM Cloud, estamos permitiendo que las empresas escalen sus cargas de trabajo de inteligencia artificial generativa con un rendimiento optimizado para inferencia y ajuste fino. Esta colaboración refuerza nuestro compromiso compartido de hacer que la IA sea más accesible y rentable para las organizaciones en todo el mundo".
Por su parte, desde IBM Cloud se enfatiza el valor que representa ofrecer nuevas alternativas en infraestructura de alto rendimiento.
Satinder Sethi, gerente general de Servicios de Infraestructura de IBM Cloud, afirmó:
"La capacidad de procesar más datos y ofrecer mayor rendimiento impulsará una mejor adopción de la inteligencia artificial por parte de los clientes en todo el mundo. Intel Gaudi 3 ofrece a los usuarios más opciones, mayor libertad y una plataforma más rentable al momento de elegir el hardware de IA que desean utilizar".
Gaudi 3 muestra ventajas en costo y rendimiento
La relación entre costo y rendimiento de Gaudi 3 se presenta como una ventaja competitiva frente a otras soluciones del mercado. Según benchmarks realizados por Signal65, patrocinados por Intel, Gaudi 3 demostró ser 92% más eficiente en costo (rendimiento por dólar) que sus competidores al ejecutar el modelo Meta Llama-3.1-405B-Instruct-FP8 con contextos extensos.
En pruebas con el modelo IBM Granite-3.1-8B-Instruct, Gaudi 3 entregó un 43% más tokens por segundo en cargas pequeñas y un 36% más en contextos grandes, frente a alternativas de la competencia.
