Documenta qué es cada sistema y qué no puede hacer
Si alguien tuviera que entender este sistema en diez minutos, ¿qué le entregaríamos?
Baseline: 1Enhanced: 34 controles
A quién se aplica
Se entra en cada sistema de IA. Algunos de sus controles solo aplican si entrenáis o adaptáis el modelo (B1). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Mantén una ficha clara de cada sistema de IA: para qué sirve, con qué se construyó y, sobre todo, dónde falla. Un modelo entregado sin una exposición honesta de sus límites es una trampa para todo el que después se apoye en él, porque dará por hecho que funciona en cualquier parte hasta que falle en algún sitio caro. Dos documentos breves cargan con casi todo: uno que describe el sistema —su propósito, sus usos previstos y no previstos, sus debilidades conocidas, cómo de bien rinde y con quién— y otro que describe los datos que hay detrás: de dónde vienen, qué contienen, qué dejan fuera. Haz que los dos sean obligatorios para cualquier sistema desplegado que importe.
Qué hacer
Escribe, para cada sistema significativo, para qué es y para qué no debe usarse. Enuncia el uso previsto con claridad, y enuncia los usos a los que no debe destinarse: lo segundo es lo que impide que una herramienta construida para un fin se reutilice sin ruido para otro para el que nunca se validó. Esto conecta directamente con el límite de fuera de alcance de la ficha de encargo de la iniciativa, en gobernanza.
Sé honesto sobre dónde falla y con quién. Registra las limitaciones conocidas del sistema y cómo varía su rendimiento entre distintos grupos de personas, porque un modelo que funciona bien de media puede funcionar mal para un grupo concreto; y, si no lo has medido y documentado, lo descubrirás en forma de reclamación por discriminación. Aquí la honestidad es protección, no debilidad.
Describe los datos que hay detrás. Registra de dónde vinieron los datos de entrenamiento y de referencia, qué contienen y —esto es clave— a quién infrarrepresentan, porque los huecos de los datos se convierten en los huecos de la competencia y de la equidad del sistema.
Controles
Baseline1 controles
Control 163
Mantén un registro mínimo de entrenamiento para cada modelo que entrenes o adaptes.
BaselinePreventivodesarrollador (developer)por sistema
Qué es
Una página: finalidad, datos utilizados, método de entrenamiento, resultado de la evaluación y limitaciones conocidas.
Cómo implantarlo · Estructura mínima
Finalidad: para qué se entrena o adapta el modelo
Datos usados: fuentes, volumen, periodo cubierto y si contienen datos personales
Método de entrenamiento: modelo base y versión, enfoque de adaptación, parámetros clave
Resultado de la evaluación: conjunto de prueba usado, métrica principal y puntuación
Limitaciones conocidas: dónde rinde mal o no debe usarse
Responsable, fecha e identificador de la versión del modelo
Cómo arrancar
Rellena la ficha de una página del último modelo que hayas entrenado o adaptado y conviértela en paso obligatorio antes de liberar cualquier modelo.
Evidencia
La ficha de entrenamiento de cada versión del modelo.
Modo: ligero / estándar / completo
ligero
Quien ejecutó el entrenamiento rellena una plantilla de una página y la guarda junto a los archivos del modelo.
estándar
El responsable técnico exige la ficha completa antes de pasar un modelo a uso.
completo
La ficha se genera a partir de los metadatos del flujo de entrenamiento y la revisa la función de gobierno de modelos antes de cada liberación.
Enhanced3 controles
Control 164
Mantén una ficha técnica para cada sistema de IA significativo desplegado.
EnhancedPreventivotodos los rolespor sistema
Qué es
Finalidad, usos previstos y prohibidos, limitaciones conocidas y rendimiento, también desglosado por grupos.
Cómo implantarlo · Estructura mínima
Finalidad y usuarios previstos
Usos previstos y usos prohibidos, coherentes con el límite de exclusiones del acta de la iniciativa
Modelo, proveedor y versión; fuentes de datos que consulta
Limitaciones conocidas y condiciones en que falla
Rendimiento global y por grupos de personas afectadas, cuando se haya medido
Responsable, contacto para incidencias y fecha de la última actualización
Cómo arrancar
Redacta primero la ficha del sistema significativo que más afecta a personas y después la de cada uno de los demás.
Evidencia
La ficha de cada sistema significativo y su historial de actualizaciones.
Modo: ligero / estándar / completo
ligero
Una ficha de dos páginas redactada por el responsable de la herramienta, con la documentación del proveedor para los detalles del modelo y el rendimiento.
estándar
El responsable del sistema la redacta antes de la puesta en producción y quien lidera el gobierno de la IA comprueba que constan los usos prohibidos.
completo
Las fichas se guardan en el registro de modelos y sistemas; las redacta el equipo de producto y las aprueba la función de gobierno de modelos.
Control 165
Mantén una descripción de los datos de cada sistema que construyas o adaptes.
EnhancedPreventivodesarrollador (developer)por sistema
Qué es
Origen, contenido y lo que los datos infrarrepresentan.
Cómo implantarlo · Estructura mínima
Origen: fuentes, método de recogida, periodo y permiso o licencia de uso
Contenido: tipos de registro, volumen, campos, datos personales presentes
Población: quién está representado y en qué proporciones
Infrarrepresentación: grupos, situaciones o periodos ausentes o escasos
Problemas de calidad conocidos: errores, etiquetas incoherentes, registros desactualizados
Tratamiento aplicado: limpieza, filtrado, eliminación de duplicados
Cómo arrancar
Redacta la descripción de los datos de entrenamiento y referencia del último sistema que hayas construido o adaptado, empezando por el origen y las carencias.
Evidencia
La descripción de cada conjunto de datos, versionada junto al modelo al que da soporte.
Modo: ligero / estándar / completo
ligero
Una plantilla de dos páginas que rellena quien reunió los datos y que se guarda con ellos.
estándar
El responsable de los datos la redacta antes del entrenamiento y el responsable técnico revisa la sección de infrarrepresentación.
completo
Las descripciones se generan en parte a partir de los metadatos del catálogo de datos y las completa y aprueba la función de gobierno del dato.
Control 166
Mantén ambos documentos al día durante toda la vida del sistema.
EnhancedPreventivotodos los rolespor sistema
Qué es
Se actualizan con cada cambio de modelo y cuando se descubren nuevas limitaciones.
Cómo implantarlo · Reglas mínimas
Desencadenantes de actualización: modelo o versión nuevos, nueva fuente de datos, nuevo uso, limitación o incidente descubiertos
Cambios planificados: documentos actualizados antes de liberar; hallazgos imprevistos en un plazo fijado (p. ej. 30 días)
Cada documento lleva versión y fecha, y se conserva su historial de cambios
Las listas de comprobación de liberación y cambios incluyen actualizar la ficha y la descripción de datos
El responsable confirma que ambos están al día en cada revisión periódica del inventario
Cómo arrancar
Añade «actualizar la ficha del sistema y la descripción de datos» como punto de las listas de comprobación de liberación y de cambios.
Evidencia
Fichas y descripciones de datos versionadas cuyas fechas coinciden con los cambios del sistema.
Modo: ligero / estándar / completo
ligero
El responsable de la herramienta actualiza ambos documentos cada vez que el proveedor cambia el modelo o se detecta una limitación nueva.
estándar
El responsable del sistema los actualiza como condición de liberación y quien lidera el gobierno de la IA comprueba por muestreo cada trimestre que están al día.
completo
El flujo de liberación bloquea el despliegue cuando la versión de la ficha o de la descripción de datos no coincide con la del modelo.
Evidencia
El registro mínimo de entrenamiento de cada modelo; las fichas de los sistemas y las descripciones de sus datos; su historial de actualización; la evidencia de que las declaraciones de usos prohibidos se hacen cumplir.