OpenAI presentó una vista previa de Private Safety Processing, un sistema que busca detectar patrones de riesgo entre interacciones relacionadas sin permitir que su personal acceda al contenido de clientes con Zero Data Retention (ZDR).
Admin
Análisis entre interacciones sin conservar el contenido
ZDR está disponible para clientes elegibles de la API y establece que OpenAI no retiene los prompts ni las respuestas después de procesar una solicitud. Los datos empresariales tampoco se usan para entrenar modelos, salvo autorización expresa.
Private Safety Processing extiende las protecciones actuales, que evalúan cada interacción por separado, para identificar riesgos en secuencias relacionadas. En los despliegues ZDR, el contenido permanece en infraestructura controlada por el cliente.
OpenAI también desarrolla una modalidad de almacenamiento en su infraestructura con cifrado mediante claves controladas por el cliente. Si el sistema detecta un riesgo, la empresa recibe una señal limitada sobre la actividad, pero no los prompts ni las respuestas.
Los clientes pueden revisar las alertas desde sus sistemas y decidir si comparten información con OpenAI. La excepción corresponde a imágenes que puedan contener material de abuso sexual infantil, que seguirán reteniéndose para revisión manual y reporte.
Admin
Despliegue previsto para septiembre
Private Safety Processing se prueba con clientes iniciales. OpenAI prevé iniciar el despliegue y publicar un documento técnico en septiembre.
Sunil Agrawal, director de seguridad de la información de Glean, abordó el vínculo entre las condiciones de tratamiento de datos y la confianza necesaria para adoptar sistemas de inteligencia artificial en entornos empresariales.
“La adopción de la inteligencia artificial empresarial depende exclusivamente del control del cliente sobre los datos, sin uso directo ni derivado más allá del servicio elegido. […] OpenAI demuestra que la seguridad puede avanzar sin comprometer la privacidad y el control que sostienen la confianza empresarial”.
