Rastrea cada resultado significativo hasta lo que lo produjo
Dentro de seis meses, ¿podremos reconstruir por qué el sistema dijo lo que dijo?
Enhanced: 22 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Haz reconstruibles las salidas significativas: conserva el rastro que va de la respuesta a la pregunta, a la versión del modelo y a las fuentes de las que bebió. Cuando una salida se impugne más adelante —por un cliente, un organismo supervisor o un tribunal—, tendrás que poder mostrar cómo se produjo, y la memoria no te servirá, porque desde entonces el modelo puede haber cambiado y el contexto hace tiempo que se fue. La trazabilidad es lo que convierte el «creemos que funcionó así» en «esto es exactamente lo que ocurrió», y es la columna vertebral probatoria tanto de la explicabilidad como de la rendición de cuentas.
Qué hacer
Enlaza cada salida significativa con sus entradas y con su versión. Registra, para las salidas que importan, la instrucción o la entrada que las produjo, la versión exacta del modelo en uso en ese momento (la versión que fijaste en seguridad técnica) y —cuando el sistema consultó tus documentos para responder— de qué fuentes bebió. Eso es lo que te permite reconstruir, y no reimaginar, una decisión pasada.
Conserva el rastro el tiempo suficiente para cumplir tus obligaciones. Ajusta cuánto tiempo conservas estos rastros a cuánto tiempo podrías tener que responder de las decisiones, que para decisiones reguladas sobre personas pueden ser años. Equilíbralo con los límites de conservación por privacidad del dominio 3: conserva lo que exige la rendición de cuentas y minimiza el resto.
Controles
Enhanced2 controles
Control 169
Registra, para los resultados significativos, la entrada, la versión del modelo y las fuentes consultadas.
EnhancedPreventivotodos los rolespor sistema
Qué es
Lo suficiente para reconstruir cómo se generó el resultado.
Cómo implantarlo · Contenido mínimo
Alcance: qué resultados se consideran significativos (p. ej. los que alimentan una decisión sobre una persona o se envían al exterior)
Identificador del resultado, fecha y hora, y caso o persona a la que se refiere
Entrada o prompt tal como se envió, adjuntos incluidos
Versión exacta del modelo (la versión fijada) y versión de la plantilla de prompt o configuración
Fuentes consultadas: identificadores de documentos y fragmentos recuperados
Resultado entregado, cualquier edición o aprobación humana y quién lo originó
Cómo arrancar
Define qué resultados son significativos, activa el registro de estos campos para ellos y pruébalo reconstruyendo un resultado pasado.
Evidencia
Los registros de trazabilidad y una reconstrucción demostrada de un resultado pasado.
Modo: ligero / estándar / completo
ligero
Usa el registro de actividad de la propia herramienta si recoge estos campos y, si no, guarda entrada, resultado y versión del modelo en una carpeta del caso.
estándar
La integración escribe un registro de traza por cada resultado significativo en un log dedicado del que es responsable el responsable del sistema.
completo
Un servicio central de trazabilidad captura cada resultado significativo con su linaje completo, consultable en auditorías e impugnaciones.
Control 170
Conserva el registro de trazabilidad mientras puedas tener que rendir cuentas de la decisión.
EnhancedPreventivotodos los rolespor sistema
Qué es
Equilibrado con los límites de conservación por privacidad.
Cómo implantarlo · Reglas mínimas
Plazo de conservación por tipo de resultado, fijado por cuánto tiempo puede impugnarse la decisión (p. ej. plazos de reclamación, normas sectoriales de conservación de registros)
Datos personales de la traza conservados solo en lo que exige la rendición de cuentas; el resto, eliminado o sustituido por referencias
Trazas separadas de los logs operativos ordinarios, que siguen los límites de privacidad más cortos
Protegidas frente a alteraciones y borrados anticipados
Borradas automáticamente al terminar el plazo
Cómo arrancar
Para cada tipo de resultado significativo, consulta a la dirección o al asesoramiento jurídico durante cuánto tiempo puede tener que responder la organización y fíjalo como plazo de conservación.
Evidencia
La política de conservación que concilia rendición de cuentas y privacidad, y la configuración que la aplica.
Modo: ligero / estándar / completo
ligero
Una persona designada guarda las carpetas de traza durante el plazo en una ubicación restringida y las borra con un recordatorio de calendario.
estándar
El responsable del sistema configura una conservación separada para los logs de traza y el responsable de privacidad aprueba los plazos.
completo
Las trazas se guardan en almacenamiento no modificable con conservación automática por tipo de resultado, revisada conjuntamente por jurídico y la función de privacidad.
Evidencia
Los registros de trazabilidad; una reconstrucción demostrada de una salida pasada a partir de ellos; la política de conservación que concilia la rendición de cuentas con la privacidad.