Evalúa el impacto en la privacidad antes de desplegar
¿Cómo podría este sistema dañar la privacidad de las personas, y lo hemos comprobado antes del lanzamiento?
Baseline: 1Enhanced: 23 controles
A quién se aplica
Se entra en cada sistema de IA. Algunos de sus controles solo aplican si trata datos personales (B4). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Haz una comprobación estructurada de privacidad antes de que un sistema de IA entre en producción, no después de que haya tratado un millón de registros. Esa comprobación —una evaluación escrita, hecha por adelantado, de cómo afecta un sistema a la privacidad de las personas cuyos datos usa— es un instrumento conocido, pero la IA cambia lo que debe examinar. Un modelo puede exponer información que nadie almacenó deliberadamente en él: se le puede inducir a revelar fragmentos de sus datos de entrenamiento, puede inferir hechos sensibles sobre una persona que nunca se le facilitaron, y puede filtrar la información de una persona en la respuesta que le da a otra. Evalúa estas vías propias de la IA, y no solo la pregunta clásica de quién puede ver la base de datos.
Qué hacer
Haz la evaluación antes del despliegue, y conviértela en compuerta para los sistemas de más riesgo. Completa la evaluación de privacidad como condición de la decisión de puesta en marcha del ciclo de vida de gobernanza, no como documentación producida después para satisfacer a alguien que audita. Para los sistemas que toman o apoyan decisiones sobre personas, trata una evaluación completada como obligatoria antes del lanzamiento.
Examina las vías que solo crea la IA. Pregunta específicamente: ¿se puede hacer que el sistema revele partes de los datos de los que aprendió? ¿Puede inferir atributos sensibles —salud, creencias, relaciones— que nunca se introdujeron? ¿Pueden los datos de un usuario aflorar en la respuesta que se le da a otro? Son preguntas que una evaluación de la era de las bases de datos nunca tuvo que hacerse, y son donde ocurren hoy los fallos de privacidad de la IA.
Reevalúa cuando el sistema cambie de forma significativa. Una versión nueva del modelo, una fuente de datos nueva o un uso nuevo pueden cambiar por completo el panorama de privacidad. Ata la reevaluación a esos eventos —incluido el cambio de modelo del proveedor del que ahora te avisan— en vez de a una fecha anual fija.
Controles
Baseline1 controles
Control 150
Completa una evaluación de impacto en la privacidad antes de desplegar cualquier IA que trate datos personales.
BaselinePreventivotodos los rolespor sistemadatos personales
Qué es
Una compuerta para los sistemas que deciden sobre personas; documentar después del lanzamiento no es aceptable.
Cómo implantarlo · Estructura mínima
Descripción: finalidad, categorías de datos personales, personas afectadas, proveedor implicado
Necesidad: por qué hace falta cada categoría de datos y qué podría eliminarse
Riesgos para las personas: exposición, uso indebido, decisiones erróneas sobre ellas, datos que llegan al proveedor
Medidas: minimización, límites de acceso, conservación, revisión humana
Riesgo residual y decisión: adelante, adelante con condiciones o no, firmada por el responsable del sistema
Sistemas que deciden sobre personas: completada y aprobada antes de la puesta en producción, sin excepciones
Cómo arrancar
Prepara una plantilla breve con estas secciones, complétala con el responsable del sistema y haz que la decisión de puesta en producción cite la evaluación firmada.
Evidencia
La evaluación firmada, fechada antes de la puesta en producción y citada en esa decisión.
Modo: ligero / estándar / completo
ligero
El gerente completa una plantilla de dos páginas con quien configuró la herramienta, usando la documentación del proveedor.
estándar
El responsable del sistema la redacta y el responsable de privacidad la revisa y firma antes de la puesta en producción.
completo
La función de privacidad la gestiona en un flujo de trabajo que bloquea el despliegue hasta que la evaluación esté aprobada.
Enhanced2 controles
Control 151
Evalúa explícitamente las vías de exposición específicas de la IA.
EnhancedPreventivotodos los rolespor sistema
Qué es
Filtración de datos de entrenamiento, inferencia sensible y filtración entre usuarios, no solo el acceso al almacén.
Cómo implantarlo · Pasos
Fuga de datos de entrenamiento: intenta que el sistema repita registros, nombres o fragmentos con los que se entrenó o adaptó
Inferencia sensible: comprueba si deduce salud, creencias, relaciones u otros datos sensibles nunca facilitados
Fuga entre usuarios: comprueba si datos, historial o documentos de un usuario pueden aparecer en la respuesta a otro
Permisos de consulta: confirma que solo consulta documentos que el usuario que pregunta puede ver
Para cada vía, registra la prueba, el resultado, la medida adoptada y el riesgo residual
Cómo arrancar
Añade las vías como sección de la plantilla de evaluación y, para el próximo sistema que vaya a producción, lanza unos pocos prompts de prueba por vía y registra las respuestas.
Evidencia
La sección de vías propias de la IA de cada evaluación, con las pruebas usadas y sus resultados.
Modo: ligero / estándar / completo
ligero
Quien configuró la herramienta lanza las pruebas y se apoya en las declaraciones del proveedor para los datos de entrenamiento que no puede probar.
estándar
El responsable del sistema y el de privacidad ejecutan un conjunto guionizado de pruebas por vía antes de la puesta en producción.
completo
Un equipo de pruebas de seguridad mantiene una batería de pruebas y la función de privacidad valida los hallazgos.
Control 152
Vuelve a evaluar ante cualquier cambio significativo.
EnhancedPreventivotodos los rolespor sistema
Qué es
Un cambio de modelo, una nueva fuente de datos o una nueva finalidad desencadenan una nueva evaluación.
Cómo implantarlo · Pasos
Desencadenantes: modelo o versión nuevos (incluidos los cambios que te notifique el proveedor), nueva fuente de datos, nueva finalidad o grupo de usuarios
Canalización: las solicitudes de cambio y los avisos de cambio del proveedor llegan al responsable de la evaluación
Criba: decide con rapidez, antes de que el cambio entre en producción, si altera el panorama de privacidad
Reevaluación: actualiza las secciones afectadas, incluidas las vías propias de la IA, antes de aplicar el cambio
Cambios menores: registra la decisión de no reevaluar y su motivo
Cómo arrancar
Incluye la lista de desencadenantes en el procedimiento de cambios y haz que los avisos de cambio de modelo del proveedor lleguen a quien es responsable de la evaluación.
Evidencia
El registro de cambios con cada desencadenante y la reevaluación resultante o la decisión registrada de no reevaluar.
Modo: ligero / estándar / completo
ligero
La persona responsable revisa la lista de desencadenantes cada vez que el proveedor anuncia un cambio o la herramienta se usa para algo nuevo.
estándar
La aprobación de cambios incluye una pregunta de criba de privacidad de la que es responsable el responsable de privacidad.
completo
El flujo de gestión de cambios abre automáticamente una tarea de reevaluación para cualquier cambio marcado con un desencadenante.
Evidencia
Las evaluaciones completadas y asociadas a las decisiones de puesta en marcha; el registro de las vías específicas de la IA que se examinaron; los registros de reevaluación frente a los eventos de cambio.