Se entra en cada sistema de IA. Algunos de sus controles solo aplican si decide sobre personas (B2). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Ajusta la explicación que puedes dar a lo que está en juego. Una herramienta que sugiere una redacción no necesita casi ninguna; un sistema que influye en si alguien obtiene un préstamo, un empleo, un diagnóstico o una prestación necesita muchísima, porque de ello depende la vida de una persona y tiene derecho a saber por qué. Decide el nivel de explicación exigido para cada caso de uso en el momento del diseño, en función de lo que está en juego y de si la salida afecta a una persona, y deja que esa decisión gobierne cuánto se aplica del resto de este dominio. Decidirlo tarde —después de construir un sistema que entonces descubres que no puedes explicar— es la forma en que las organizaciones acaban sin poder defender decisiones que ya han tomado.
Qué hacer
Fija el requisito de explicación a partir de lo que está en juego, antes de construir. Clasifica cada caso de uso por cuánta explicación va a deber: mínima para la asistencia de poco en juego, completa y dirigida a la persona para las decisiones que afectan a alguien de forma material. Hazlo antes de elegir o construir el sistema, porque hay diseños que no se pueden volver explicables a posteriori, y descubrirlo después del lanzamiento es descubrirlo demasiado tarde.
Trata por defecto una decisión sobre una persona como el listón alto. Allí donde la IA decide o moldea de forma material una decisión sobre una persona —su dinero, su trabajo, su salud, sus derechos o su acceso a un servicio—, da por supuesto el requisito de explicación más alto salvo que tengas una razón concreta para rebajarlo. Ahí es donde se concentra la exposición jurídica y reputacional, y donde un sistema inexplicable es lo menos defendible.
Controles
Baseline1 controles
Control 161
Clasifica cada caso de uso según el nivel de explicación que requiere, en la fase de diseño.
BaselinePreventivotodos los rolespor sistemadecide sobre personas
Qué es
Depende de lo que está en juego y de si afecta a una persona; se registra y se usa para seleccionar o descartar diseños.
Cómo implantarlo · Contenido mínimo
Caso de uso y sistema que lo atiende
Persona afectada: ¿el resultado influye en una decisión sobre el dinero, el trabajo, la salud, los derechos o el acceso a un servicio de alguien?
Lo que está en juego: bajo, medio o alto
Nivel exigido: mínimo (asistencia de bajo riesgo), interno (el personal puede explicar por qué) o completo y dirigido a la persona
Consecuencia de diseño: opciones aceptadas o descartadas por no poder alcanzar ese nivel
Quién decidió y fecha, antes de comprar o construir
Cómo arrancar
Antes de elegir o construir el próximo sistema, rellena una fila por caso de uso en una tabla de clasificación y adjúntala a la decisión de compra o de puesta en producción.
Evidencia
El registro de clasificación fechado antes de elegir el diseño y las decisiones de diseño que lo citan.
Modo: ligero / estándar / completo
ligero
El gerente rellena una fila por caso de uso en una hoja de cálculo al elegir una herramienta.
estándar
El responsable del proyecto clasifica cada caso de uso al inicio de la iniciativa y la aprobación de puesta en producción lo comprueba.
completo
La clasificación es una etapa obligatoria del ciclo de vida de proyectos, revisada por el comité de gobierno de la IA.
Enhanced1 controles
Control 162
Asigna por defecto a las decisiones que afectan a personas el requisito de explicación más alto.
EnhancedPreventivotodos los rolespor sistema
Qué es
Solo se rebaja con una justificación específica y registrada.
Cómo implantarlo · Reglas mínimas
Todo uso que decide o condiciona de forma relevante una decisión sobre el dinero, el trabajo, la salud, los derechos o el acceso a un servicio de alguien parte del nivel más alto
Los usos que afectan a personas y aún no se han clasificado se tratan como del nivel más alto
Rebajarlo exige una justificación escrita: por qué la persona no se ve afectada de forma relevante o por qué basta con menos explicación
La justificación la aprueba el responsable último y se conserva junto a la clasificación
Las clasificaciones rebajadas se revisan cuando cambian el uso o el sistema
Cómo arrancar
Marca en el registro de clasificación todos los usos que afectan a personas con el nivel más alto y añade un campo de justificación obligatorio para cualquier excepción.
Evidencia
Los registros de clasificación que muestran el valor por defecto aplicado y la justificación de cada rebaja.
Modo: ligero / estándar / completo
ligero
El gerente aplica el valor por defecto y escribe una justificación breve en la hoja de cálculo para cualquier excepción.
estándar
El responsable del proyecto propone cualquier rebaja y la persona que lidera el gobierno de la IA la aprueba.
completo
La herramienta de clasificación impone el valor por defecto y la rebaja exige aprobación del comité de gobierno, registrada en el flujo de trabajo.
Evidencia
La clasificación del nivel de explicación por caso de uso; las decisiones de diseño que demuestran que se aplicó antes de construir; las justificaciones de los casos en que se rebajó el listón.