Haz que toda decisión significativa de la IA sea reconstruible
Si tuviéramos que demostrar qué ocurrió y quién era responsable, ¿podríamos hacerlo?
Baseline: 1Enhanced: 23 controles
A quién se aplica
Se entra en cada sistema de IA. Algunos de sus controles solo aplican si decide sobre personas (B2). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Conserva un registro lo bastante completo como para reconstruir cualquier decisión significativa de IA y localizar la responsabilidad sobre ella. Cuando una decisión se cuestione —por la persona afectada, por un organismo supervisor o por un tribunal—, tendrás que poder mostrar qué se decidió, sobre qué base, con qué versión del sistema y qué persona intervino en qué momento. Esto se apoya en la trazabilidad del dominio de explicabilidad y la orienta hacia otra pregunta: no solo por qué el sistema produjo la salida, sino quién responde de haber actuado conforme a ella.
Qué hacer
Registra la decisión, su base, su versión y la intervención humana. Para las decisiones significativas influidas por IA, conserva una relación de qué se decidió, de la entrada y la versión del sistema que hay detrás y —esto es crítico— de dónde una persona revisó, aprobó o anuló. La intervención humana es lo que conecta la decisión con alguien que responde de ella; un registro que la omite no puede localizar la responsabilidad.
Haz que el rastro resista a las pérdidas convenientes. Un registro que se puede alterar o borrar sin ruido después de un mal resultado no es un registro de rendición de cuentas. Protege estos rastros frente a la manipulación y frente al borrado casual, en proporción a lo que está en juego, para que la relación que puedas presentar sea la relación de lo que realmente ocurrió.
Controles
Baseline1 controles
Control 185
Mantén un registro mínimo de decisión para cada resultado de IA que afecte a personas.
BaselineDetectivotodos los rolespor sistemadecide sobre personas
Qué es
Sistema, versión del modelo, fecha e intervención humana: quién revisó, quién anuló. Una línea por decisión basta en el nivel Baseline.
Cómo implantarlo · Contenido mínimo
Nombre del sistema y versión del modelo, o la etiqueta de versión del proveedor si aparece
Fecha de la decisión y una referencia del caso, no los datos completos de la persona
Qué produjo la IA: recomendación, puntuación o borrador, en pocas palabras
Intervención humana: quién lo revisó y si lo aceptó o lo anuló
Resultado final comunicado a la persona
Cómo arrancar
Coloca una hoja de una línea por decisión junto al proceso donde se usa el resultado de la IA y haz que el revisor rellene una línea cada vez.
Evidencia
El registro de decisiones que cubre todos los resultados de IA que afectan a personas en el periodo.
Modo: ligero / estándar / completo
ligero
Una hoja de cálculo compartida con una fila por decisión, que rellena quien revisa.
estándar
Campos obligatorios en el sistema de expedientes o de personal, completados antes de cerrar la decisión.
completo
Captura automática por la aplicación, integrada en el registro completo de decisiones.
Enhanced2 controles
Control 183
Mantén un registro de auditoría de las decisiones significativas de la IA, incluida la intervención humana.
EnhancedDetectivotodos los rolespor sistema
Qué es
Qué se decidió, con qué fundamento, con qué versión y con qué revisión o anulación humana.
Cómo implantarlo · Contenido mínimo
Referencia de la decisión, fecha y hora, y el caso o la persona afectada
Entrada utilizada, o una referencia a ella, y la versión del sistema y del modelo que generó el resultado
Resultado de la IA: recomendación, puntuación o borrador, con la confianza mostrada al revisor
Intervención humana: quién revisó, aprobó o anuló, cuándo y el motivo de cualquier anulación
Decisión final adoptada y fecha en que surtió efecto
Cómo arrancar
Enumera qué decisiones de este sistema son significativas (afectan a una persona, a dinero o a un contrato) y añade los campos que falten allí donde se toman.
Evidencia
El propio registro y una decisión pasada reconstruida a partir de él, con el nombre del responsable.
Modo: ligero / estándar / completo
ligero
Un registro estructurado en el sistema de expedientes o una hoja de cálculo compartida, cumplimentado en el momento de decidir.
estándar
Campos capturados automáticamente por la aplicación, con la acción del revisor registrada por el flujo de trabajo.
completo
Un servicio central de trazabilidad de decisiones alimentado por todos los sistemas significativos, consultable por caso y versión.
Control 184
Protege los registros frente a la manipulación y la eliminación prematura.
EnhancedPreventivotodos los rolespor sistema
Qué es
En proporción a lo que está en juego en las decisiones que registran.
Cómo implantarlo · Reglas mínimas
Acceso de escritura: solo escribe el proceso de registro; nadie, ni los administradores, edita una entrada ya creada
Las correcciones se añaden como entradas nuevas que remiten a la original, sin sobrescribirla
Borrado bloqueado antes de que venza el plazo de conservación; cualquier borrado anticipado requiere dos personas designadas y queda registrado
Registros de alto impacto: almacenamiento de solo anexado o de escritura única, o hashes de integridad periódicos guardados aparte
Copias de seguridad del registro separadas del sistema en producción
Cómo arrancar
Comprueba quién puede hoy editar o borrar el registro de este sistema y retira ese permiso a todos salvo al proceso de registro.
Evidencia
La lista de accesos, la configuración de conservación y el registro de intentos de modificación o borrado.
Modo: ligero / estándar / completo
ligero
Una copia bloqueada o de solo lectura del registro, guardada cada semana en un almacenamiento que solo el responsable puede borrar.
estándar
Almacenamiento de solo anexado con borrado restringido y copias de seguridad separadas, gestionado por informática.
completo
Almacenamiento de escritura única con controles de integridad y alertas ante intentos de manipulación, vigilado por la función de seguridad.
Evidencia
Los rastros de auditoría de las decisiones; la evidencia de su resistencia a la manipulación y de su conservación; una reconstrucción demostrada de una decisión pasada con la persona responsable de ella. Los registros mínimos de decisión.