OpenAI anunció una alianza con Hacktron para identificar vulnerabilidades en sus sistemas, con especial atención a las conexiones con servicios de terceros. Los ingenieros de OpenAI y los investigadores de Hacktron seleccionarán conjuntamente las áreas prioritarias y realizarán las pruebas.
Como parte del acuerdo, OpenAI ampliará el acceso de Hacktron a sus modelos de frontera mediante Daybreak Red.
Admin
Hacktron utilizará agentes de IA para las pruebas de seguridad
Hacktron desarrolla agentes de IA para revisar código, ejecutar pruebas de penetración y realizar ejercicios de red teaming. OpenAI conoció el trabajo de sus investigadores a través del programa Security Bug Bounty, en el que habían identificado y comunicado vulnerabilidades.
Según OpenAI, las investigaciones de Hacktron han detectado fallas en las interacciones entre aplicaciones, infraestructura en la nube y sistemas de identidad.
Admin
Zayne Zhang, director ejecutivo de Hacktron, destacó el papel de los modelos avanzados en la investigación de seguridad y la combinación de capacidades humanas y herramientas de inteligencia artificial para examinar las vulnerabilidades de sistemas interconectados.
“El futuro de la ciberseguridad no estará definido por quién tenga el equipo de seguridad más grande, sino por quién combine mejor la creatividad humana con las capacidades basadas en IA. OpenAI está dando un sólido ejemplo al poner modelos de ciberseguridad de frontera en manos de investigadores de seguridad, permitiéndoles descubrir vulnerabilidades complejas en los límites entre sistemas interconectados. […]”.
El anuncio se suma a un próximo ciclo intensivo de pruebas de seguridad en el que participarán investigadores de Cathedral y al aumento de las recompensas del programa de reporte de vulnerabilidades de OpenAI, ambas medidas comunicadas por la empresa durante la misma semana.
