Gestiona deliberadamente las compensaciones entre las dimensiones
Cuando proteger una cosa debilita otra, ¿quién decide el equilibrio, y con qué criterio?
Enhanced: 1Advanced: 12 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Reconoce que las cosas que este marco protege tiran a veces unas contra otras, y gestiona esa tensión como una decisión explícita en lugar de como un accidente de quien construyó el sistema. Las dimensiones son interdependientes, pero no siempre están alineadas: fortificar un modelo frente a un ataque puede hacerlo menos preciso; proteger la privacidad con fuerza puede reducir la utilidad de un sistema o su equidad; registrarlo todo por rendición de cuentas crea una exposición de privacidad y un coste. No puedes maximizarlas todas a la vez, y fingir lo contrario significa que los compromisos se toman en silencio, por defecto, por la persona más cercana al código. Conviértelos, en cambio, en una decisión deliberada, sopesada frente a tu apetito de riesgo, tu sector y el uso concreto; y este es el dominio donde vive esa decisión.
Qué hacer
Saca a la luz los conflictos entre dimensiones, y resuélvelos a propósito. Cuando reforzar una protección debilite otra, nombra el conflicto, sopésalo frente al apetito de riesgo de la organización y a lo que está en juego en ese uso concreto, y registra la decisión y su razonamiento. El objetivo no es eliminar la tensión —no se puede eliminar—, sino asegurar que la resuelve alguien que responde de ello, sobre motivos declarados, y no la inercia.
Deja que la proporcionalidad fije el equilibrio, no la maximización uniforme. Aplica la misma proporcionalidad que recorre todo el marco: hasta dónde empujas cada dimensión depende del rol, del sector, de la criticidad y del tamaño, de modo que el equilibrio que alcanza la herramienta de poco en juego de un usuario pequeño difiere, legítimamente, del que alcanza el modelo de alto riesgo de un desarrollador regulado.
Controles
Enhanced1 controles
Control 231
Resuelve los conflictos entre las dimensiones como decisiones explícitas y registradas.
EnhancedPreventivotodos los rolespor sistema
Qué es
Ponderadas frente al apetito de riesgo y al uso, y asumidas por una persona que rinde cuentas.
Cómo implantarlo · Contenido mínimo
Conflicto: las dimensiones que tiran en sentidos opuestos (p. ej. robustez frente a ataques vs. precisión; privacidad vs. pruebas de equidad; registro completo vs. privacidad y coste)
Opciones valoradas y el efecto de cada una en cada dimensión implicada
Contexto: apetito de riesgo, lo que está en juego en el uso, personas afectadas
Decisión tomada y su razonamiento
Persona responsable que decidió y fecha
Disparador de revisión: p. ej. cambio de uso, de modelo o de las normas aplicables
Cómo arrancar
Pregunta a cada responsable de sistema qué equilibrios se han fijado ya por defecto (p. ej. conservación de registros, rigor de los filtros) y registra el más relevante.
Evidencia
El registro de decisiones de equilibrio con su razonamiento y la persona responsable de cada entrada.
Modo: ligero / estándar / completo
ligero
La dirección decide y anota cada equilibrio en la ficha del sistema.
estándar
Los responsables los registran; los que afectan a personas o riesgo alto van a dirección.
completo
Los equilibrios se elevan al comité de IA como decisiones formales registradas.
Advanced1 controles
Control 232
Fija el equilibrio según la proporcionalidad, no mediante una maximización uniforme.
AdvancedPreventivotodos los rolespor sistema
Qué es
Calibrado según el rol, el sector, la criticidad y el tamaño.
Cómo implantarlo · Reglas mínimas
Calibra cada dimensión según cuatro factores: rol, sector, criticidad del uso y tamaño de la organización
Redacta una tabla de calibración: ajustes objetivo por nivel de criticidad (p. ej. detalle de registro, rigor de filtros, frecuencia de pruebas)
No llevar por defecto cada dimensión al máximo; registra lo que cada ajuste cuesta en las demás
La Baseline es el mínimo en todas las dimensiones, sea cual sea la calibración
Recalibra cuando cambien el rol, el sector, la criticidad o el tamaño
Compara sistemas periódicamente: los ajustes deben diferir donde difiere el contexto
Cómo arrancar
Compara el equilibrio fijado en dos sistemas de distinta criticidad y deja por escrito por qué difiere, o por qué debería diferir.
Evidencia
La tabla de calibración y los ajustes por sistema que muestran que el equilibrio varía con el contexto.
Modo: ligero / estándar / completo
ligero
La dirección aprueba una tabla de media página aplicada a los pocos sistemas en uso.
estándar
Riesgos mantiene la tabla y contrasta cada sistema al aprobarlo.
completo
El comité de IA es dueño del estándar; la segunda línea vigila la maximización uniforme.
Evidencia
Las decisiones de compromiso registradas y su razonamiento; la evidencia de que el equilibrio se calibra según el contexto en vez de aplicarse de forma uniforme.