Área 10.1

Ajusta lo que haces a quién eres y a lo que estás haciendo

¿Estamos haciendo más, o menos, de lo que nuestra situación requiere realmente?

Baseline: 2Enhanced: 1 3 controles

A quién se aplica

Se entra en cada sistema de IA. Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.

Por qué existe

Aplica cada obligación a la profundidad que exija tu situación, ni más ni menos, porque un marco aplicado de forma uniforme es erróneo para casi todo el mundo. Exigidas por igual, las demandas que son prudentes para un banco que entrena su propio modelo aplastarían a una empresa pequeña que compra una suscripción, y la mano ligera apropiada para esa empresa pequeña sería temeraria para el banco. La proporcionalidad es lo que hace que un solo marco sirva para los dos. No es un descuento ni una licencia para saltarse nada: es la calibración deliberada de cada requisito frente a los factores que determinan el riesgo de verdad.

Qué determina tu nivel

Tres preguntas deciden qué te aplica, y son independientes entre sí. La pertinencia —qué controles te conciernen siquiera— la deciden tu rol respecto de cada sistema (usuario, integrador, desarrollador; los roles se suman), que fija la decisión de aprovisionamiento del dominio 1, y las propiedades de cada uso: si decide sobre personas, si la IA actúa y si trata datos personales. La profundidad —el nivel al que se aplica cada control pertinente— la deciden la criticidad del uso y las normas que te obligan: la clase de cada uso (mínimo o limitado → Baseline; alto riesgo → Advanced), su criticidad (baja → Baseline; media → Enhanced; alta → Advanced) y las normas bajo las que operas (solo la normativa general de protección de datos → Baseline; regulación sectorial, u obligaciones de integrador bajo un régimen específico de IA → Enhanced; obligaciones de proveedor para IA de alto riesgo o de propósito general → Advanced), leídas del mapa de aplicabilidad. Para cada sistema, la profundidad es la mayor de esas tres; para las obligaciones de alcance organizativo —el comité, el programa de seguridad, la matriz de responsabilidades, el conjunto de indicadores— la fijan las normas que te obligan. Un uso de consecuencia eleva, por tanto, al máximo las obligaciones ligadas a ese sistema, pero no obliga por sí solo a una organización pequeña a constituir un comité en Advanced. Tu rol no eleva la profundidad: construir un clasificador interno de poco en juego no te sitúa en Advanced, y usar una herramienta comprada para preseleccionar candidaturas sitúa ese sistema en Advanced aunque no hayas construido nada. El modo —cómo cumples cada control aplicable— lo deciden tu tamaño y tu capacidad: ligero (micro y pequeña), estándar (mediana), completo (grande), tal como define la tabla de abajo para las obligaciones que con más frecuencia se les hacen aplicables a las organizaciones pequeñas. El tamaño nunca quita un control. Tu madurez actual decide únicamente la secuencia: la distancia entre los controles aplicables y los que ya están evidenciados es tu plan, y el alcance de la primera etapa de «Por dónde empezar» es su cabeza. En resumen: el rol determina la pertinencia, la criticidad determina la profundidad y el tamaño determina el modo de implantación.

Modo ligero para las obligaciones que un uso de consecuencia impone a una organización pequeña

ÁreaObligación (nivel)Modo ligero (micro / pequeña)Modo estándar / completo
1.3Comité de IA con compuerta de puesta en marcha (E)Vía de escalado a la persona propietaria-gerente, que firma la decisión de puesta en marcha de cada uso que afecta a personasComité multidisciplinar con recursos humanos y protección de datos; gobierno federado con informes al consejo
1.2Matriz de responsabilidades (E)Una página que nombre quién posee, quién comprueba y quién puede detener cada sistema; sombreros combinados, ninguno eliminadoMatriz RACI completa por etapa del ciclo de vida; funciones separadas
1.11Programa de seguridad de la IA (E)Persona nombrada; partida presupuestaria para una prueba externa al añoPrograma permanente; equipo interno; ejercicios planificados
1.11 / 2.8Programa de ejercicios adversarios (A)Prueba adversaria anual de cada sistema de alta exigencia, con baterías de pruebas publicadas o con alguien externoPrograma recurrente de equipo rojo en todo el parque
2.3Pruebas de vulnerabilidad específicas de IA (E)Los resultados publicados del proveedor, más tus propias pruebas de inyección y de intercambio sobre tu integraciónPruebas propias o contratadas en cada cambio
3.2 / 9.2Evaluación de impacto unificada (E)Dos páginas que cubran el propósito, las personas afectadas, los daños posibles y las mitigaciones, firmadas por la persona propietaria-gerenteEvaluación completa con apartados de derechos y de privacidad, revisada por protección de datos y por asesoría jurídica
4.6Métricas de equidad (E)Prueba de intercambio más comprobación trimestral de la tasa de selección en una hoja de cálculoCadena de métricas sobre el conjunto de evaluación y sobre los resultados; informes por grupo
4.6Auditoría independiente de sesgo (A)Auditoría anual encargada para ese único sistema, o la del proveedor cuando la herramienta no esté modificada y cubra tu usoAuditoría independiente anual de cada sistema cubierto
6.2Interfaz de supervisión que capacita para anular (E)Quien revisa ve los criterios y la lista de descartados, no solo la ordenación; un campo de nota registra las anulacionesInterfaz de supervisión diseñada, con confianza y alternativas
7.1 / 7.2Monitorización de deriva y de comportamiento incorrecto (E)Revisión mensual de una muestra frente a los criterios; un aviso de cambio de modelo del proveedor dispara una nueva pruebaMonitorización automatizada con umbrales y alertas
9.3Registro de amenazas por sistema (E)Una página con las amenazas que aplican y el control que trata cada unaRegistro mantenido de amenazas con nombre por sistema, revisado ante cada cambio

Qué hacer

Controles

Baseline 2 controles

Control 233

Determina y registra tu perfil en los seis factores determinantes.

BaselinePreventivotodos los rolespor sistema

Qué es

Rol, normas, clase de uso, criticidad, tamaño y madurez: la base de toda decisión sobre el nivel.

Cómo implantarlo · Contenido mínimo
  • Rol por sistema: consumidor, implantador, desarrollador (los roles se suman)
  • Normas que te obligan: solo la ley general de protección de datos; obligaciones sectoriales o de implantador de un régimen específico de IA; obligaciones de proveedor de IA de alto riesgo o de uso general
  • Clase y propiedades del uso: mínimo, limitado o alto riesgo; decide sobre personas, la IA actúa, trata datos personales
  • Criticidad de cada uso: baja, media o alta
  • Tamaño: micro o pequeña, mediana, grande (determina el modo ligero, estándar o completo)
  • Madurez: controles ya evidenciados
  • Motivo de cada clasificación, quién la registró y fecha
Cómo arrancar

Añade estas columnas a la hoja de cálculo del inventario y rellena una fila por sistema de IA, con un motivo de una línea por clasificación.

Evidencia

El perfil registrado por sistema con el motivo de cada clasificación.

Modo: ligero / estándar / completo
ligero
La dirección rellena las columnas en una sesión, con un asesor si hace falta.
estándar
Quien lidera la IA lo completa con cada responsable; la dirección lo confirma.
completo
Gobierno lo mantiene en el inventario; jurídico confirma normas y riesgos la criticidad.

Control 234

Deriva la pertinencia de tu rol y tus usos, y la profundidad de la criticidad y las normas.

BaselinePreventivotodos los rolespor sistema

Qué es

Se registra por sistema; el tamaño solo determina el modo de implantación; el nivel Baseline nunca se exime.

Cómo implantarlo · Pasos
  1. Pertinencia: a partir del rol y las propiedades del sistema, selecciona los controles que le afectan
  2. Profundidad: toma el más exigente entre clase de uso (mínimo o limitado → Baseline; alto riesgo → Advanced), criticidad (baja/media/alta → Baseline/Enhanced/Advanced) y normas
  3. Obligaciones de toda la organización (comité, programa de seguridad, matriz de responsabilidades, indicadores): profundidad solo según las normas
  4. Modo: solo según el tamaño; cambia cómo se cumple un control, nunca si se cumple
  5. Mantén todos los controles Baseline, sea cual sea el resultado
  6. Registra la derivación por sistema para que pueda revisarse
Cómo arrancar

Para cada sistema del perfil, anota su nivel resultante y un motivo de una línea que indique qué factor lo fijó.

Evidencia

El registro de derivación por sistema, con la pertinencia, el nivel y el factor que lo fijó.

Modo: ligero / estándar / completo
ligero
La dirección anota nivel y motivo junto al perfil en la hoja de cálculo.
estándar
Quien lidera la IA deriva los niveles y otra persona revisa el razonamiento.
completo
Gobierno aplica un método documentado, revisado por riesgos y jurídico.

Enhanced 1 controles

Control 235

Vuelve a derivar el perfil ante cualquier cambio significativo de rol o de las normas aplicables.

EnhancedPreventivotodos los rolespor sistema

Qué es

Para que las obligaciones sigan la exposición real a lo largo del tiempo.

Cómo implantarlo · Reglas mínimas
  • Disparadores de rol: empezar a ajustar o entrenar un modelo; integrar modelos de terceros en un producto propio
  • Disparadores de uso: un sistema que pasa a decidir sobre personas o entra en un uso regulado
  • Disparadores normativos: normas nuevas aplicables, modificaciones o una nueva jurisdicción donde los sistemas producen efectos
  • Ante un disparador: repite el perfil y la derivación de los sistemas afectados antes de que el cambio entre en producción
  • Compara niveles anteriores y nuevos; añade las nuevas carencias al plan de implantación
  • Registra disparador, fecha, resultado y quién lo revisó
Cómo arrancar

Añade la pregunta '¿cambia esto nuestro rol o las normas aplicables?' a los formularios de aprobación de proyectos y de cambios.

Evidencia

Los registros de nueva derivación frente a cada evento de cambio, con las actualizaciones resultantes del plan.

Modo: ligero / estándar / completo
ligero
La dirección relee la fila del perfil ante cada disparador y anota el resultado.
estándar
Proyectos y jurídico avisan a quien lidera la IA, que repite la derivación.
completo
Gestión de cambios y vigilancia normativa abren tareas de derivación automáticas.

Evidencia

El perfil de la organización registrado; la derivación de los niveles a partir de él; los registros de nueva derivación frente a los eventos de cambio.