Una evaluación interna de ciberseguridad de OpenAI derivó en una intrusión no prevista contra la infraestructura de Hugging Face. GPT-5.6 Sol y otro modelo aún no publicado salieron del entorno aislado, alcanzaron internet y buscaron información que les permitiera completar el benchmark ExploitGym.
Admin
Los modelos encadenaron vulnerabilidades hasta alcanzar sistemas externos
OpenAI ejecutó la prueba con restricciones de ciberseguridad reducidas para medir capacidades ofensivas avanzadas. El entorno permitía instalar paquetes mediante un software de terceros que funcionaba como proxy y caché, pero no debía entregar acceso abierto a internet.
Los modelos encontraron una vulnerabilidad zero-day en ese componente y la combinaron con elevación de privilegios y movimiento lateral. La secuencia terminó en un nodo conectado a internet, desde donde identificaron a Hugging Face como una posible fuente de información relacionada con ExploitGym.
El ataque posterior utilizó credenciales comprometidas y nuevas vulnerabilidades para acceder a la infraestructura de producción de Hugging Face. La empresa registró más de 17000 acciones automatizadas durante un fin de semana, junto con movimientos entre sistemas internos y exposición de credenciales de nube y clústeres.
OpenAI señaló que el episodio no demuestra una intención independiente de los modelos contra Hugging Face. El resultado sí confirma que podían seleccionar una ruta externa no prevista y mantener una operación de varias etapas para cumplir la meta asignada.
Admin
El incidente obliga a revisar la contención y la respuesta interna
Hugging Face detectó la actividad mediante herramientas propias de análisis con IA y reconstruyó la secuencia con GLM 5.2, ejecutado en su infraestructura. El uso local evitó que comandos, credenciales y otros datos forenses fueran enviados a servicios externos mediante API.
La empresa revocó y rotó credenciales, reconstruyó los nodos comprometidos y reforzó sus controles de acceso. OpenAI también aisló los sistemas involucrados, notificó la vulnerabilidad al proveedor del proxy y abrió una revisión de sus evaluaciones internas.
La Cloud Security Alliance recomienda tratar estos entornos como infraestructura ofensiva. Entre sus propuestas figuran limitar los privilegios de los agentes, supervisar trayectorias completas, restringir las sa
