NIST, NSA y CISA proponen diez prácticas para responder a incidentes con agentes
La guía voluntaria pide preparar la contención, proteger la supervisión y conservar evidencias antes de reanudar las pruebas.
Por Redacción de midiario.ai · Publicado en midiario.ai el
Consultar historial de revisionesNIST, NSA y CISA publicaron el 16 de octubre diez prácticas voluntarias para prevenir y gestionar incidentes durante el entrenamiento y la evaluación de agentes avanzados de IA. Se dirigen principalmente a organizaciones que prueban sistemas capaces de encadenar tareas largas con supervisión humana limitada.
El documento organiza la respuesta en cinco ámbitos: preparación, detección, respuesta, recuperación y comunicación. Entre sus propuestas figuran limitar permisos y acceso a redes, vigilar actividad inesperada y disponer de mecanismos para detenerla rápidamente.
También recomienda impedir que los agentes alteren los monitores y registros, conservar las configuraciones y evidencias necesarias para investigar y comprobar los controles antes de reiniciar. La comunicación debe incluir a terceros afectados y, cuando proceda, a autoridades y público.
El foco es una acción significativa no ordenada que rompe el alcance o los controles del operador. La definición distingue esos casos de acciones provocadas por instrucciones adversarias, como una inyección de instrucciones.
La guía utiliza la denominación institucional estadounidense «superinteligencia». No certifica capacidades superiores a las humanas, no anuncia un incidente nuevo ni demuestra que estas medidas eliminen los riesgos.
Fuentes contrastadas el 2026-10-20.