Trata cada riesgo de forma proporcionada y demuestra que el tratamiento funciona
¿Hemos reducido realmente los riesgos que dijimos que reduciríamos, y lo hemos comprobado?
Enhanced: 1Advanced: 12 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Para cada riesgo que importe, decide el tratamiento en proporción al riesgo y después demuestra que el tratamiento funciona de verdad, porque una mitigación que se supone eficaz y nunca se ha probado es un riesgo al que has cambiado la etiqueta por «seguro». Tratar no significa eliminar: significa reducir hasta dentro del apetito que fijó la organización, por los medios proporcionados, y confirmar que la reducción es real. Para los riesgos con más en juego, confirmar incluye intentar romper deliberadamente la mitigación.
Qué hacer
Ajusta el tratamiento al riesgo, y acepta lo que quede, con nombre y apellidos. Reduce cada riesgo prioritario por medios proporcionados y, cuando quede riesgo tras el tratamiento, haz que lo acepte explícitamente alguien con autoridad para aceptarlo, lo que conecta con la aceptación del riesgo residual en la compuerta de puesta en marcha de gobernanza. Un riesgo residual sin dueño es un riesgo que nadie vigila.
Prueba que las mitigaciones aguantan: atácalas cuando lo que está en juego lo justifique. Valida que los tratamientos funcionan como se pretendía y, para los riesgos con más en juego, encarga los ejercicios adversarios del programa de seguridad de gobernanza para intentar derrotarlos. Una mitigación que nunca se ha probado frente a un intento decidido de romperla es una esperanza, no un control.
Controles
Enhanced1 controles
Control 227
Trata cada riesgo prioritario de forma proporcionada, con el riesgo residual aceptado explícitamente.
EnhancedPreventivotodos los rolespor sistema
Qué es
Aceptado por una autoridad facultada para ello; vinculado a la compuerta de puesta en producción.
Cómo implantarlo · Contenido mínimo
Identificador del riesgo y su calificación evaluada
Tratamiento elegido en proporción a la calificación: reducir, evitar, transferir o aceptar
Medidas: los controles aplicados, responsable y fecha límite
Calificación residual tras el tratamiento, comparada con el apetito de riesgo
Aceptación: nombre y cargo de quien tiene autoridad para aceptarla, fecha y condiciones
Referencia a la decisión de puesta en producción del sistema
Cómo arrancar
Define quién puede aceptar cada nivel de riesgo residual (p. ej. el responsable del sistema el bajo, la dirección el alto) y registra el tratamiento de los riesgos de mayor calificación.
Evidencia
Las decisiones de tratamiento y las aceptaciones firmadas de riesgo residual, referenciadas en los registros de puesta en producción.
Modo: ligero / estándar / completo
ligero
La dirección acepta todo el riesgo residual firmando la hoja de riesgos.
estándar
Los responsables aceptan el bajo y medio; la dirección, el alto en la aprobación.
completo
Una matriz de autoridad asigna la aceptación a responsables, comité o alta dirección.
Advanced1 controles
Control 228
Valida los tratamientos y, para los riesgos de mayor gravedad, ponlos a prueba de forma adversarial.
AdvancedDetectivotodos los rolespor sistema
Qué es
Mitigaciones demostradas, no presupuestas; las de mayor gravedad, sometidas a ataque.
Cómo implantarlo · Pasos
Define un criterio de superación por tratamiento (p. ej. el filtro de entrada detiene al menos el 95 % de un conjunto de prueba de instrucciones inyectadas)
Valida antes de la puesta en producción y tras cada cambio, conservando casos de prueba y resultados
Para riesgos de alto impacto, encarga un ejercicio adversarial que intente vencer la mitigación
Registra los hallazgos; corrige cualquier mitigación que falle y vuelve a probarla
Repite la prueba adversarial al menos una vez al año por sistema de alto impacto y ante cambios importantes
Cómo arrancar
Toma los tres riesgos de mayor calificación y redacta para cada uno una prueba que demuestre si su mitigación funciona de verdad.
Evidencia
Resultados de validación y de pruebas adversariales, con las correcciones hechas donde fallaron las mitigaciones.
Modo: ligero / estándar / completo
ligero
Prueba adversarial anual por sistema de alta exigencia con baterías publicadas o evaluador externo.
estándar
Seguridad valida en cada cambio y contrata una prueba externa anual.
completo
Programa recurrente de equipo rojo en todo el parque, con validación automatizada.
Evidencia
Las decisiones de tratamiento y las aceptaciones de riesgo residual; los resultados de la validación y de las pruebas adversarias; la evidencia de las mitigaciones revisadas allí donde fallaron.