NVIDIA detalló su enfoque de seguridad para sistemas de IA física que operan en vehículos autónomos, robots y otras máquinas capaces de tomar decisiones con consecuencias en el mundo real. La compañía plantea que la evaluación debe cubrir hardware, software, comportamiento de la IA, entorno operativo y todo el ciclo de despliegue, en lugar de limitarse a una comprobación previa a la puesta en servicio.
Admin
¿Por qué la seguridad de la IA física no termina antes del despliegue?
El aumento de sistemas autónomos en carreteras, fábricas y almacenes introduce escenarios que no pueden controlarse únicamente mediante zonas estáticas o barreras físicas. NVIDIA sostiene que estas máquinas deben interpretar condiciones cambiantes, adaptar su comportamiento y alcanzar un estado seguro cuando aparece una situación imprevista.
El comportamiento de los modelos de IA agrega otra capa de evaluación, que debe combinar seguridad funcional con controles durante el diseño, la ejecución y la validación. La compañía también considera que las actualizaciones de software, nuevos modelos, tareas adicionales o cambios en las condiciones de operación pueden exigir nuevas pruebas de seguridad.
NVIDIA incluye la simulación y los datos sintéticos como parte de este proceso debido a la cantidad de escenarios posibles que deben evaluarse. Las pruebas físicas continúan siendo necesarias, pero se complementan con reconstrucción de situaciones y simulaciones para ampliar la cobertura de casos poco frecuentes o difíciles de reproducir.
Halos separa la seguridad en capas para vehículos autónomos y robots
Para vehículos autónomos, Halos integra DRIVE AGX Thor como plataforma de cómputo y Hyperion como arquitectura de referencia para vehículos preparados para nivel 4. La capa de software incorpora Halos OS sobre DriveOS certificado ASIL-D, además de Halos Core y Halos Middleware para aislamiento, monitoreo y comunicaciones deterministas.
La arquitectura también incorpora Alpamayo para modelos de razonamiento visión-lenguaje-acción y Halos Safety Evaluation Framework para reunir evidencia destinada a casos de seguridad en distintos niveles de automatización. Este marco relaciona desarrollo, datos, simulación y evaluación con el objetivo de mantener trazabilidad durante el ciclo de vida del vehículo.
En robótica, NVIDIA utiliza IGX Thor como módulo de cómputo industrial con una Functional Safety Island dedicada y Halos Core para funciones de detección, monitoreo y reporte de fallos. Holoscan Sensor Bridge conecta los datos procedentes de sensores con el procesamiento de IA y seguridad, mientras Isaac Lab y las bibliotecas de Omniverse se utilizan para probar comportamientos y casos límite mediante simulación.
Halos también contempla monitoreo desde fuera del propio robot mediante Outside-In Safety Blueprint, que utiliza cámaras externas y agentes de visión para ampliar la observación de una instalación. Esta aproximación permite complementar los sensores integrados en la máquina con una capa adicional de supervisión del entorno.
Admin
NVIDIA lleva Halos a evaluaciones independientes y procesos de certificación
En el ámbito automotriz, TÜV SÜD certificó el proceso de software Automotive Product Lifecycle de NVIDIA y DriveOS 6.0 bajo ISO 26262 ASIL D, además de los procesos de ingeniería automotriz relacionados con ISO/SAE 21434. TÜV Rheinland realizó adicionalmente una evaluación independiente de seguridad UNECE sobre NVIDIA DRIVE AV.
Para robótica, TÜV Rheinland está inspeccionando IGX Thor, Halos OS y Holoscan Sensor Bridge en preparación para certificaciones de seguridad funcional, mientras ANAB acreditó el NVIDIA Halos AI Systems Inspection Lab como organismo de inspección ISO/IEC 17020. El laboratorio revisa integraciones basadas en Halos y genera documentación que puede utilizarse como evidencia en procesos posteriores de certificación realizados por terceros.
La adopción abarca tanto automoción como robótica: Geely, Isuzu, Nissan y Einride desarrollan vehículos preparados para nivel 4 sobre NVIDIA Hyperion, mientras Agility integra IGX Thor y Halos Core en el sistema de seguridad del humanoide Digit 5. NVIDIA también menciona a proveedores de software, sensores, semiconductores y sistemas industriales dentro de la estructura de desarrollo y evaluación de Halos.
