Norton presentó Safe AI el 5 de noviembre, un conjunto de controles integrados en Norton 360 para supervisar las acciones de asistentes como ChatGPT y Claude en el equipo. Las funciones buscan bloquear operaciones no autorizadas, administrar el acceso a archivos personales y detectar enlaces potencialmente peligrosos.
Según Gen Threat Labs, el contenido malicioso entregado a usuarios de Gen mediante chatbots como ChatGPT y Claude creció un 54% a nivel global durante los 90 días anteriores al anuncio.
Francisco Carrasco M.
Gen también reportó que más de dos tercios de las personas expresaron preocupación por la privacidad, las filtraciones de datos o la pérdida de control al utilizar asistentes autónomos capaces de actuar en su nombre.
Dagim Girma, gerente general de Norton, señaló que la compañía busca incorporar resguardos a las tareas que los asistentes ejecutan por cuenta de los usuarios. Su declaración abordó las dificultades de seguridad que pueden acompañar el uso cotidiano de estas herramientas.
“Las herramientas fueron diseñadas para hacer el trabajo y no necesariamente para hacerlo bien, o incluso de forma segura, a pesar de las buenas intenciones. […] Las personas no deberían tener que convertirse en expertas en seguridad de IA para beneficiarse de estas herramientas. Con Safe AI, ayudamos a las personas a mantener el control de su información […]”.
¿Cómo operan los tres controles de Safe AI?
Action Shield busca bloquear acciones no deseadas de los asistentes antes de su ejecución. Norton incluye entre sus objetivos las inyecciones de instrucciones que podrían llevarlos a actuar de forma indebida.
Admin
Safe Zone permite establecer los permisos de acceso a archivos y contenidos personales conectados a las herramientas de IA. Las opciones disponibles son acceso completo, solo lectura o bloqueo.
Safe Links busca identificar enlaces potencialmente dañinos compartidos por ChatGPT y Claude antes de abrirlos. Norton explica que las respuestas de estos asistentes pueden incluir vínculos que parecen confiables pese a conducir a destinos inseguros.
Safe AI forma parte de la protección avanzada contra estafas de Norton 360 y, según la compañía, ya está disponible para equipos con Windows y Mac.
