Área 9.6

Gestiona deliberadamente las compensaciones entre las dimensiones

Cuando proteger una cosa debilita otra, ¿quién decide el equilibrio, y con qué criterio?

Enhanced: 1Advanced: 1 2 controles

A quién se aplica

Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.

Por qué existe

Reconoce que las cosas que este marco protege tiran a veces unas contra otras, y gestiona esa tensión como una decisión explícita en lugar de como un accidente de quien construyó el sistema. Las dimensiones son interdependientes, pero no siempre están alineadas: fortificar un modelo frente a un ataque puede hacerlo menos preciso; proteger la privacidad con fuerza puede reducir la utilidad de un sistema o su equidad; registrarlo todo por rendición de cuentas crea una exposición de privacidad y un coste. No puedes maximizarlas todas a la vez, y fingir lo contrario significa que los compromisos se toman en silencio, por defecto, por la persona más cercana al código. Conviértelos, en cambio, en una decisión deliberada, sopesada frente a tu apetito de riesgo, tu sector y el uso concreto; y este es el dominio donde vive esa decisión.

Qué hacer

Controles

Enhanced 1 controles

Control 231

Resuelve los conflictos entre las dimensiones como decisiones explícitas y registradas.

EnhancedPreventivotodos los rolespor sistema

Qué es

Ponderadas frente al apetito de riesgo y al uso, y asumidas por una persona que rinde cuentas.

Cómo implantarlo · Contenido mínimo
  • Conflicto: las dimensiones que tiran en sentidos opuestos (p. ej. robustez frente a ataques vs. precisión; privacidad vs. pruebas de equidad; registro completo vs. privacidad y coste)
  • Opciones valoradas y el efecto de cada una en cada dimensión implicada
  • Contexto: apetito de riesgo, lo que está en juego en el uso, personas afectadas
  • Decisión tomada y su razonamiento
  • Persona responsable que decidió y fecha
  • Disparador de revisión: p. ej. cambio de uso, de modelo o de las normas aplicables
Cómo arrancar

Pregunta a cada responsable de sistema qué equilibrios se han fijado ya por defecto (p. ej. conservación de registros, rigor de los filtros) y registra el más relevante.

Evidencia

El registro de decisiones de equilibrio con su razonamiento y la persona responsable de cada entrada.

Modo: ligero / estándar / completo
ligero
La dirección decide y anota cada equilibrio en la ficha del sistema.
estándar
Los responsables los registran; los que afectan a personas o riesgo alto van a dirección.
completo
Los equilibrios se elevan al comité de IA como decisiones formales registradas.

Advanced 1 controles

Control 232

Fija el equilibrio según la proporcionalidad, no mediante una maximización uniforme.

AdvancedPreventivotodos los rolespor sistema

Qué es

Calibrado según el rol, el sector, la criticidad y el tamaño.

Cómo implantarlo · Reglas mínimas
  • Calibra cada dimensión según cuatro factores: rol, sector, criticidad del uso y tamaño de la organización
  • Redacta una tabla de calibración: ajustes objetivo por nivel de criticidad (p. ej. detalle de registro, rigor de filtros, frecuencia de pruebas)
  • No llevar por defecto cada dimensión al máximo; registra lo que cada ajuste cuesta en las demás
  • La Baseline es el mínimo en todas las dimensiones, sea cual sea la calibración
  • Recalibra cuando cambien el rol, el sector, la criticidad o el tamaño
  • Compara sistemas periódicamente: los ajustes deben diferir donde difiere el contexto
Cómo arrancar

Compara el equilibrio fijado en dos sistemas de distinta criticidad y deja por escrito por qué difiere, o por qué debería diferir.

Evidencia

La tabla de calibración y los ajustes por sistema que muestran que el equilibrio varía con el contexto.

Modo: ligero / estándar / completo
ligero
La dirección aprueba una tabla de media página aplicada a los pocos sistemas en uso.
estándar
Riesgos mantiene la tabla y contrasta cada sistema al aprobarlo.
completo
El comité de IA es dueño del estándar; la segunda línea vigila la maximización uniforme.

Evidencia

Las decisiones de compromiso registradas y su razonamiento; la evidencia de que el equilibrio se calibra según el contexto en vez de aplicarse de forma uniforme.