Cuando la persona necesita intervenir, ¿puede hacerlo con rapidez y fiabilidad?
Baseline: 1Enhanced: 23 controles
A quién se aplica
Se entra en cada sistema de IA. Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Asegúrate de que la persona puede intervenir de verdad —anular una decisión, pausar el sistema, tomar el control— y de que el medio para hacerlo funciona bajo presión. Una supervisión que ve el problema pero no puede detenerlo es observación, no control. La intervención tiene que ser fiable, alcanzable en el momento y gobernada por un procedimiento que quien opera conozca, porque un mecanismo de anulación que se descubre por primera vez durante una crisis es un mecanismo que falla durante una crisis.
Qué hacer
Conserva una vuelta al proceso manual, desde el primer día. Antes de apoyarte en ninguna IA, asegúrate de que podrías dejar de usarla hoy y seguir a mano: que el procedimiento manual sigue escrito, que alguien sigue sabiendo ejecutarlo, que sabes cómo suspender el acceso de la herramienta y que la decisión de parar no espera la aprobación de nadie. Esto no necesita tecnología ni estructura, y es lo que permite a una organización pequeña recuperarse de una IA que falla antes de tener un botón de parada.
Dale a quien opera una forma fiable de anular y de detener. Construye los medios para revertir o bloquear una decisión concreta de la IA y para detener el sistema entero, y colócalos donde quien opera pueda alcanzarlos en el momento en que los necesite. Conecta la parada con la desconexión y el repliegue que construiste en el programa de seguridad de gobernanza y en seguridad técnica: detener la IA no puede dejar varado al proceso.
Escribe y ensaya el procedimiento de intervención. Documenta cuándo y cómo intervenir, y ensáyalo, para que bajo tensión quien opera actúe desde la práctica en vez de improvisar desde el pánico. Un procedimiento sin probar es una suposición.
Controles
Baseline1 controles
Control 196
Debes poder dejar de usar cualquier sistema de IA y devolver el proceso afectado a su forma manual en el mismo día.
BaselineCorrectivotodos los rolespor sistema
Qué es
El procedimiento manual se mantiene por escrito y es conocido; la persona que puede decidir la parada está designada y no necesita más aprobaciones; se sabe cómo suspender el acceso de la herramienta.
Cómo implantarlo · Estructura mínima
Procedimiento manual: cómo se hacía el proceso antes de la IA, por escrito y actualizado
Quién puede ejecutarlo a mano: al menos una persona designada que aún sabe hacerlo
Quién puede decidir parar: una persona designada, con suplente, sin necesidad de otra aprobación
Cómo suspender el acceso: desactivar cuentas o claves, apagar la integración, pausar la suscripción
A quién avisar al parar: al personal que usa la herramienta y, si cambia el servicio, a los clientes
Cómo arrancar
Para cada herramienta de IA, escribe media página: cómo se hacía antes el trabajo, quién puede hacerlo, quién puede desconectarla y cómo cortar el acceso.
Evidencia
El procedimiento manual escrito y la persona designada que puede detener la IA.
Modo: ligero / estándar / completo
ligero
Media página por herramienta en una carpeta compartida; el gerente es la persona designada.
estándar
Parte de la documentación de procesos, con decisor y suplente designados por sistema.
completo
Integrado en los planes de continuidad de negocio, con los pasos de suspensión de acceso a cargo de informática.
Enhanced2 controles
Control 197
Proporciona mecanismos fiables de anulación y parada, accesibles en el momento.
EnhancedCorrectivotodos los rolespor sistema
Qué es
Vinculados a la alternativa de continuidad de negocio, para que detener la IA no detenga el proceso.
Cómo implantarlo · Reglas mínimas
Anulación: revertir o bloquear una decisión concreta de la IA antes o después de que surta efecto
Parada: detener todo el sistema o una función, p. ej. un interruptor de funcionalidad, desactivar la integración, revocar sus credenciales
Alcance: al alcance del operador de turno desde su interfaz habitual, siempre que el sistema esté funcionando
Alternativa: al parar, el trabajo pasa al proceso manual o a una opción segura, no a un callejón sin salida
Rapidez: la parada surte efecto en un tiempo definido; toda anulación y parada queda registrada
Cómo arrancar
Identifica la forma más rápida de detener hoy este sistema y comprueba si el operador de turno puede activarla sin pedir permiso a nadie.
Evidencia
Los mecanismos de anulación y parada, quién puede accionarlos y un registro de prueba.
Modo: ligero / estándar / completo
ligero
La opción de pausa o desactivación del proveedor, con el operador en posesión del acceso necesario para usarla.
estándar
Un interruptor en la aplicación y el desvío al proceso manual, a cargo del responsable del sistema.
completo
Controles de parada diseñados con alternativa automática, vigilados y probados por operaciones.
Control 198
Documenta y ensaya el procedimiento de intervención.
EnhancedCorrectivotodos los rolespor sistema
Qué es
Los operadores actúan desde la práctica, no desde la improvisación.
Cómo implantarlo · Estructura mínima
Desencadenantes: cuándo intervenir, p. ej. resultado dañino, alerta de deriva, acción fuera de límites
Quién actúa, con suplente, y los pasos exactos para anular o parar
Paso a la alternativa y a quién avisar
Condiciones para reanudar y quién lo autoriza
Ensayo: al menos anual y tras cambios relevantes, con las lecciones registradas
Cómo arrancar
Redacta el procedimiento en una página y haz un simulacro de mesa de 30 minutos con los operadores.
Evidencia
El procedimiento documentado y los registros de ensayo con las lecciones aprendidas.
Modo: ligero / estándar / completo
ligero
Un procedimiento de una página y un repaso anual dirigido por el gerente.
estándar
Un procedimiento por sistema con un simulacro de mesa registrado por el responsable del sistema y los operadores.
completo
Simulacros reales programados por operaciones, combinados con los ejercicios de continuidad y con seguimiento de hallazgos.
Evidencia
El procedimiento manual escrito y la persona nombrada que puede detener la IA; los mecanismos de anulación y de parada y su accesibilidad; el procedimiento documentado; los registros de los ensayos.