Diseña la interfaz para que la supervisión sea real
¿Tiene realmente la persona que supervisa lo que necesita para juzgarlo?
Enhanced: 22 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Dale a la persona que supervisa la información y el tiempo para emitir un juicio real, porque la forma más común en que falla la supervisión humana no es la ausencia, sino la futilidad: alguien a quien se pide aprobar, a toda prisa, decisiones presentadas sin ninguna base sobre la que discrepar. Cuando la interfaz solo muestra la recomendación de la IA y un botón de aprobar, la gente aprueba: se fía de la máquina segura de sí misma, sobre todo con carga de trabajo. Diseña contra eso. Una interfaz de supervisión que no capacita a la persona para decir que no no es supervisión: es una máquina de firmar.
Qué hacer
Muéstrale a la persona lo que necesita para discrepar, no solo lo que debe aprobar. Presenta los factores que hay detrás de la salida de la IA, su confianza y sus debilidades conocidas para este tipo de caso y —cuando importe— cuáles eran las alternativas. La prueba es si alguien competente podría, con lo que muestra la interfaz, formarse una opinión independiente y anular a la IA. Si lo único que puede hacer es estar de acuerdo, rediséñala.
Diseña contra la tendencia a deferir en la máquina. Las personas confían de más en la automatización que se muestra segura —la tendencia que se nombra en el área de competencia— y una interfaz rápida y fluida lo amplifica. Incorpora fricción donde lo que está en juego lo justifique: exige a quien revisa que registre un motivo, saca a la luz la información que contradice, ralentiza el momento de la decisión para las acciones con más en juego. La fricción es precisamente la idea.
Controles
Enhanced2 controles
Control 194
Ofrece interfaces de supervisión que capaciten a la persona para anular, no solo para aprobar.
EnhancedPreventivotodos los rolespor sistema
Qué es
Fundamento, nivel de confianza, limitaciones y alternativas: lo suficiente para formarse un criterio independiente.
Cómo implantarlo · Reglas mínimas
Fundamento: los principales factores y entradas detrás del resultado, no solo una puntuación o etiqueta
Confianza para este caso, señalada claramente cuando es baja
Debilidades conocidas para este tipo de caso, p. ej. pocos datos o perfiles atípicos
Alternativas: las siguientes mejores opciones o el resultado sin la IA, cuando proceda
Anular tan fácil como aprobar, con un campo para el motivo
Cómo arrancar
Siéntate con un revisor durante una hora de casos reales y anota si la pantalla le permitiría discrepar; especifica lo que falta.
Evidencia
El diseño de la interfaz que muestra fundamento, confianza, limitaciones y alternativas, y la tasa de anulación.
Modo: ligero / estándar / completo
ligero
Con una herramienta de proveedor, activa la visualización de motivos o fuentes y da a los revisores una lista de una página con sus debilidades conocidas.
estándar
El responsable del sistema especifica los campos y se incorporan a la pantalla de revisión.
completo
Diseñada con los revisores, probada según detecten o no errores, y vigilada mediante las tasas de anulación.
Control 195
Introduce fricción contra la deferencia automática en las decisiones de alto riesgo.
EnhancedPreventivotodos los rolespor sistema
Qué es
Motivos registrados, presentación de pruebas en contrario o una pausa deliberada cuando esté justificado.
Cómo implantarlo · Reglas mínimas
Alcance: define qué decisiones son de alto impacto, p. ej. denegaciones, acciones irreversibles, decisiones sobre personas
Motivo registrado obligatorio tanto para aprobar como para anular
Contraevidencia mostrada antes de aprobar: los factores que apuntan en sentido contrario
Pausa deliberada: no se puede aprobar sin haber abierto antes el detalle del caso
Sin aprobación en bloque de casos de alto impacto
Cómo arrancar
Identifica las decisiones de mayor impacto de este sistema y exige un motivo escrito antes de poder aprobar cualquiera de ellas.
Evidencia
Las medidas de fricción configuradas y una muestra de los motivos registrados.
Modo: ligero / estándar / completo
ligero
Una columna obligatoria de motivo en el registro de decisiones, revisada por el gerente.
estándar
Campos de motivo y bloqueo de la aprobación en bloque configurados en el flujo por el responsable del sistema.
completo
Fricción integrada en la interfaz, con revisión de la calidad de los motivos y de los tiempos de aprobación por el responsable de supervisión.
Evidencia
Los diseños de la interfaz de supervisión; la evidencia de que presentan el fundamento y las alternativas; las tasas de anulación y las medidas de fricción implantadas.