Da a las personas afectadas una vía para enmendar lo ocurrido
Cuando la IA se equivoca con alguien, ¿cómo consigue esa persona que se corrija?
Enhanced: 1Advanced: 12 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Proporciona a las personas a las que afecta tu IA una vía efectiva para impugnar un resultado erróneo y conseguir que se corrija: un mecanismo, no una promesa. Una salida de IA errónea o dañina no es un asunto cerrado por el mero hecho de que la produjera el sistema; quien está al otro lado necesita una forma de decir «esto está mal» y que la escuche alguien capaz de arreglarlo. Esto cierra el círculo que abrió el derecho a impugnar del dominio de explicabilidad: la explicación le dice por qué; esto le da el remedio.
Qué hacer
Construye una vía real de remedio y reparación, y dótala de personas. Dale a las personas afectadas una forma clara y utilizable de plantear un error o un daño, encamínala hacia una persona competente con autoridad para corregir el resultado y —la parte que lo hace real— corrígelo de verdad y, cuando proceda, repara a esa persona. Un canal de reclamaciones que no lleva a ninguna parte es peor que no tener ninguno, porque fabrica la apariencia de un recurso.
Devuelve al sistema lo que aprendas de las reparaciones. Cada impugnación estimada es una señal de dónde falla el sistema. Encamina el patrón de las reparaciones de vuelta al proceso de riesgos y a la mejora del sistema, para que la reparación corrija no solo el caso individual, sino la causa.
Controles
Enhanced1 controles
Control 190
Ofrece un mecanismo de subsanación y reparación para las personas afectadas por los resultados de la IA.
EnhancedCorrectivotodos los rolespor sistema
Qué es
Que llegue a una persona que pueda corregir el resultado, y lo haga.
Cómo implantarlo · Estructura mínima
Canal: una vía de contacto visible (formulario, correo, teléfono) indicada siempre que se comunique un resultado influido por la IA
Acuse de recibo en un plazo fijado (p. ej. 5 días hábiles) y un objetivo de resolución (p. ej. 30 días)
Revisión por una persona designada con autoridad para cambiar el resultado, no volviendo a ejecutar el sistema
Corrección: resultado modificado en todos los registros afectados, la persona informada y el daño reparado cuando proceda
Registro de casos: fecha, asunto, revisor, decisión, corrección realizada
Cómo arrancar
Designa a la persona que atenderá las impugnaciones de este sistema y añade la vía de contacto a toda comunicación de un resultado influido por la IA.
Evidencia
El registro de casos con las impugnaciones recibidas y los resultados efectivamente corregidos.
Modo: ligero / estándar / completo
ligero
Una dirección de correo específica atendida por una persona designada, con los casos anotados en una hoja de cálculo.
estándar
Lo gestiona el equipo de atención al cliente o de reclamaciones, con escalado al responsable del sistema.
completo
Un proceso de reparación con niveles de servicio, seguimiento de casos e informes periódicos al gobierno.
Advanced1 controles
Control 191
Reincorpora los patrones de reparación a la gestión de riesgos y a la mejora.
AdvancedCorrectivotodos los rolespor sistema
Qué es
Las reclamaciones estimadas sirven para corregir el sistema, no solo el caso individual.
Cómo implantarlo · Pasos
Clasifica cada impugnación estimada por su causa: error de datos, error del modelo, fallo de proceso o de supervisión
Revisa el patrón con el responsable del sistema con una periodicidad fija, p. ej. trimestral
Registra las causas recurrentes como riesgos en el registro de riesgos, cada una con responsable
Acuerda una corrección: arreglo de datos, reentrenamiento, cambio de umbral, de interfaz o de proceso
Comprueba tras el cambio que disminuyen las impugnaciones de ese tipo
Cómo arrancar
Añade un campo de causa al registro de casos de reparación y haz la primera revisión de patrones con las impugnaciones estimadas del último trimestre.
Evidencia
Las revisiones de patrones, los riesgos registrados a partir de ellas y los cambios introducidos en el sistema.
Modo: ligero / estándar / completo
ligero
El responsable del sistema revisa el registro de casos cada trimestre y anota las acciones resultantes.
estándar
Una revisión trimestral del responsable del sistema y del responsable de riesgos, con seguimiento de acciones.
completo
Los datos de reparación alimentan automáticamente el proceso de riesgos, con informes de tendencia al gobierno y una solicitud de cambio por causa raíz.
Evidencia
El mecanismo de reparación y los registros de su uso; la evidencia de resultados efectivamente corregidos; la realimentación de la reparación hacia el proceso de riesgos.