Se entra en cada sistema de IA. Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Haz que todo sistema de IA pase por compuertas definidas camino de producción, y haz que salir de producción sea tan deliberado como entrar. La IA que aparece en producción por accidente, porque un piloto se volvió permanente sin hacer ruido o porque nunca se revisó un interruptor de funcionalidad, es IA que nadie aprobó, de la que nadie es propietario y que nadie retirará. Impón un ciclo de vida: cada sistema se solicita, se evalúa, se aprueba, se despliega, se monitoriza y —el paso que casi todo el mundo olvida— se retira, en ese orden, con una decisión en cada transición. Seis fases, por tanto: solicitud, evaluación, aprobación, despliegue, monitorización y retirada.
Qué hacer
Abre cada iniciativa con una ficha de encargo que diga qué queda fuera de alcance. Antes de empezar a trabajar, escribe una ficha breve: para qué es la iniciativa, qué hará y —explícitamente— qué no hará, quiénes son sus partes interesadas, cómo se medirá el éxito y quién da el visto bueno. La línea de lo que queda fuera de alcance es la que los equipos se saltan siempre y la que después les salva: es la única defensa duradera contra la expansión silenciosa por la que un piloto que resumía documentos acaba siendo, seis meses después, un sistema que toma decisiones sobre personas, sin que nadie haya aprobado nunca el cambio.
Dale a la experimentación un sitio autorizado, o encontrará uno que no lo esté. Ofrece un entorno gobernado en el que los equipos puedan probar IA con seguridad: separado de producción, con datos no sensibles o sintéticos, sin credenciales de producción y con criterios definidos de qué puede salir de él hacia producción. Esto es tanto un control contra la IA no registrada como una herramienta de evaluación: la gente experimenta o donde puedes verla o donde no puedes, y el entorno de pruebas es cómo eliges lo primero.
Gradúa la compuerta de aprobación en proporción al riesgo. Antes de que cualquier sistema entre en producción se aprueba, pero calibra el peso de esa aprobación a lo que está en juego. Una herramienta interna de bajo riesgo necesita una decisión ligera y rápida de su propietario. Un sistema de alto riesgo —que afecte a los derechos, al dinero, a la salud o a la seguridad de las personas— exige el visto bueno de riesgos, seguridad, privacidad, cumplimiento y el negocio, con el riesgo que queda tras las mitigaciones documentado y aceptado por una persona con nombre. La proporcionalidad es lo que mantiene el respeto por la compuerta: una compuerta igual de pesada para todo se esquivará para todo.
Planifica la retirada el día que apruebes el lanzamiento. Dar de baja un sistema de IA no es apagarlo. Exige, para cada retirada: la disposición segura de los datos que custodiaba; el archivado o la destrucción del propio modelo; la purga de los almacenes derivados construidos a partir de sus datos; la revocación de cada credencial de acceso y de cada conexión que tuviera un agente —porque un agente cuyas llaves no se revocan sigue siendo una puerta viva a tus sistemas mucho después de que todo el mundo haya olvidado que existe— y la transferencia del conocimiento que el sistema encarnaba. Escribe el plan de retirada en el momento de la aprobación, mientras alguien sabe todavía qué toca el sistema.
Controles
Baseline2 controles
Control 31
Define el ciclo de vida desde la solicitud hasta la retirada y haz pasar por él a todo sistema de IA.
BaselinePreventivotodos los rolespor sistema
Qué es
Ningún sistema llega a producción al margen de las seis fases.
Cómo implantarlo · Estructura mínima
Seis fases: solicitud, evaluación, aprobación, despliegue, seguimiento, retirada
Para cada fase: condición de entrada, quién decide y registro mínimo que se conserva
Formulario de solicitud: propósito, responsable de IA, datos usados, usuarios, beneficio esperado
Regla: nada llega a producción sin una aprobación registrada; los pilotos llevan fecha de fin
La retirada como fase planificada, no como ocurrencia tardía
La fase actual de cada sistema visible en el registro
Cómo arrancar
Redacta una página que describa las seis fases y la decisión de cada una, y sitúa cada sistema existente en su fase actual dentro del registro.
Evidencia
La descripción del ciclo de vida y las entradas del registro con la fase y las decisiones de cada sistema.
Modo: ligero / estándar / completo
ligero
El propietario-gerente aprueba cada transición y la anota en la hoja del inventario.
estándar
Los responsables de IA avanzan los sistemas por las fases con un formulario común y quien lidera la IA comprueba que ninguno se salta la aprobación.
completo
El ciclo de vida se gestiona en una herramienta de flujo de trabajo con pasos obligatorios vinculados al registro.
Control 32
Aprueba cada sistema antes de su despliegue, con un peso proporcional a su riesgo.
BaselinePreventivotodos los rolespor sistema
Qué es
Ligera cuando hay poco en juego, con varias partes cuando hay mucho en juego, pero siempre como decisión explícita de una persona que rinde cuentas.
Cómo implantarlo · Reglas mínimas
Niveles de aprobación vinculados a la clase de riesgo, definidos por escrito de antemano
Riesgo bajo (interno, sin datos personales, sin decisiones sobre personas): aprueba el responsable de IA con un registro breve
Riesgo medio: Responsable de IA y responsable técnico, con una revisión de seguridad y privacidad
Riesgo alto (derechos, dinero, salud o seguridad): aprobación de varias partes y aceptación nominal del riesgo residual
Cada aprobación registra aprobador, fecha, clase de riesgo y condiciones
Ningún despliegue sin una aprobación registrada
Cómo arrancar
Define dos o tres niveles de aprobación vinculados a la clase de riesgo y aplícalos al próximo sistema que se solicite.
Evidencia
Los registros de aprobación, cada uno con aprobador, fecha y clase de riesgo.
Modo: ligero / estándar / completo
ligero
El propietario-gerente aprueba cada sistema, con un registro de una línea para el riesgo bajo y una nota escrita de los riesgos aceptados para el resto.
estándar
Los derechos de aprobación se asignan por nivel y quien lidera la IA mantiene el registro de aprobaciones.
completo
Los niveles de aprobación se imponen en la herramienta de flujo de trabajo y las aprobaciones de alto riesgo se envían al comité.
Enhanced4 controles
Control 33
Inicia cada iniciativa con un acta de constitución que incluya un límite explícito de lo que queda fuera del alcance y una aprobación nominal.
EnhancedPreventivotodos los rolespor sistema
Qué es
Los cambios de alcance reabren el acta de constitución; no la eluden.
Cómo implantarlo · Estructura mínima
Propósito y objetivo de negocio al que sirve
Dentro del alcance: qué hará la iniciativa
Fuera del alcance: qué no hará expresamente (p. ej. no tomará ni recomendará decisiones sobre personas)
Partes interesadas
Medidas de éxito y cómo se comprobarán
Firma de aprobación con nombre
Regla: cualquier cambio de alcance reabre la carta y requiere una nueva firma
Cómo arrancar
Adopta una plantilla de carta de una página y exige una carta firmada antes de empezar a trabajar en la próxima iniciativa.
Evidencia
Las cartas firmadas con sus líneas de fuera del alcance y las versiones reabiertas.
Modo: ligero / estándar / completo
ligero
El propietario-gerente firma una carta de una página redactada por quien propone la iniciativa.
estándar
El responsable de IA redacta y firma la carta, y quien lidera la IA la revisa antes de empezar la evaluación.
completo
Las cartas se guardan en el sistema de gestión de cartera y los cambios de alcance vuelven a pasar por una reaprobación formal.
Control 34
Gestiona un entorno de experimentación autorizado.
EnhancedPreventivotodos los rolespor sistema
Qué es
Aislado de producción, sin datos sensibles ni credenciales de producción, y con criterios definidos para pasar a producción.
Cómo implantarlo · Reglas mínimas
Separado de los sistemas y redes de producción
Solo datos no sensibles o sintéticos
Sin credenciales de producción ni conectores a sistemas internos
Cada experimento registrado: responsable, propósito, fecha de fin
Criterios de salida: carta, clase de riesgo y aprobación por el ciclo de vida antes de cualquier uso en producción
Los experimentos que superan su fecha de fin se cierran y se borran sus datos
Cómo arrancar
Prepara un espacio de trabajo aislado con datos sintéticos o públicos y publica las normas para usarlo.
Evidencia
Las normas del entorno de pruebas, el registro de experimentos y los registros de salida a producción.
Modo: ligero / estándar / completo
ligero
Usa una cuenta de prueba separada con el proveedor, sin datos de la empresa, y lleva la lista de experimentos en una hoja de cálculo.
estándar
TI proporciona un entorno aislado y quien lidera la IA sigue los experimentos y sus salidas.
completo
Una plataforma de experimentación gestionada impone técnicamente el aislamiento y las reglas de datos, con salida a producción por el flujo de aprobación.
Control 35
Exige la aprobación de varias partes para los sistemas de alto riesgo.
EnhancedPreventivotodos los rolespor sistema
Qué es
Riesgos, seguridad, privacidad, cumplimiento y negocio firman cada uno, y el riesgo residual queda registrado y tiene responsable.
Cómo implantarlo · Contenido mínimo
Firmantes: riesgos, seguridad, privacidad, cumplimiento y negocio (responsable de IA)
Conclusiones y condiciones de cada firmante
Riesgo residual tras las medidas de mitigación, descrito con claridad
Persona con nombre que acepta el riesgo residual, con autoridad según el apetito de riesgo
Versión del sistema aprobada y fecha
Cualquier negativa bloquea la puesta en producción hasta que se resuelva o se escale
Cómo arrancar
Crea una hoja de aprobación con las cinco líneas de firma y una sección de riesgo residual, y adjúntala a la próxima aprobación de alto riesgo.
Evidencia
Las hojas de aprobación completadas con la aceptación nominal del riesgo residual.
Modo: ligero / estándar / completo
ligero
Contrata asesoramiento externo para las visiones especializadas y el propietario-gerente firma la aceptación del riesgo residual.
estándar
Directivos existentes firman por cada función, coordinados por quien lidera la IA.
completo
Cada función firma en el flujo de aprobación y el comité autoriza la puesta en producción con el registro completo.
Control 36
Evalúa y documenta el impacto antes del despliegue.
EnhancedPreventivotodos los rolespor sistema
Qué es
La evaluación abarca a las personas afectadas, no solo a la tecnología.
Cómo implantarlo · Estructura mínima
Descripción del sistema, propósito y contexto de uso
Personas afectadas: quiénes, cuántas y si hay grupos vulnerables
Daños posibles: errores, trato injusto, intrusión en la privacidad, pérdida de oportunidades, seguridad
Medidas de mitigación y supervisión humana existente
Impacto restante y conclusión: seguir, seguir con condiciones o detener
Revisión ante cualquier cambio de propósito, datos o población afectada
Cómo arrancar
Completa una plantilla breve de impacto para el próximo sistema antes de su aprobación, con el responsable de IA y alguien que conozca a las personas afectadas.
Evidencia
Las evaluaciones de impacto completadas, adjuntas a los registros de aprobación.
Modo: ligero / estándar / completo
ligero
El propietario-gerente y el responsable de IA rellenan juntos una plantilla de dos páginas.
estándar
El responsable de IA dirige la evaluación con privacidad y el área de negocio implicada, y quien lidera la IA la revisa.
completo
Una evaluación estructurada a cargo de un equipo especializado, con consulta a los grupos afectados en sistemas de alto riesgo y revisión del comité.
Advanced1 controles
Control 37
Ejecuta un desmantelamiento planificado en cada retirada.
AdvancedPreventivotodos los rolespor sistema
Qué es
Destino de los datos, archivo o destrucción del modelo, purga de los almacenes derivados, revocación de credenciales y conexiones, y transferencia de conocimiento, todo ello con evidencia, no presupuesto.
Cómo implantarlo · Pasos
Datos: devuelve, archiva o borra lo que contenía el sistema, según sus reglas de conservación
Modelo: archívalo o destrúyelo, y registra cuál de las dos
Almacenes derivados: purga índices, cachés, resúmenes y registros creados a partir de sus datos
Accesos: revoca cada credencial, clave, token y conector que tuvieran el sistema o sus agentes, y verifica que ninguno sigue funcionando
Conocimiento: documenta qué hacía el sistema, sus decisiones y dependencias, y traspásalo a quien asuma el trabajo
Cierre: marca el activo como retirado en el registro, con la firma del responsable de IA y evidencia de cada paso
Cómo arrancar
Convierte estos pasos en una lista de comprobación y exige evidencia de cada línea antes de cerrar la próxima retirada.
Evidencia
Los registros de retirada, incluida la prueba de revocación de credenciales y conectores.
Modo: ligero / estándar / completo
ligero
Una persona designada recorre la lista con las opciones de cierre de cuenta y borrado del proveedor; la firma el propietario-gerente.
estándar
El responsable técnico ejecuta la lista y el responsable de IA aprueba la evidencia.
completo
La retirada se gestiona como un cambio controlado, con comprobaciones automáticas de revocación y verificación independiente antes del cierre.
Evidencia
Las fichas de encargo con sus líneas de fuera de alcance; los registros de uso del entorno de pruebas y de su paso a producción; los registros de aprobación y visto bueno, con la aceptación del riesgo residual a nombre de alguien; las evaluaciones de impacto; los registros de baja, incluida la evidencia de revocación.