Resuelve la responsabilidad y los seguros antes de un despliegue de alto riesgo
Si esta IA causa un daño real, ¿quién asume el coste, y estamos cubiertos?
Enhanced: 22 controles
A quién se aplica
Se entra en cada sistema de IA cuya letra es E o A (esta área no tiene controles Baseline). Llega hasta donde alcance la letra del sistema, e implántalo en tu modo.
Por qué existe
Decide quién soporta el coste del daño causado por la IA, y confirma que tu seguro lo cubre de verdad, antes de desplegar nada de alto riesgo. Las organizaciones descubren la laguna después del daño: que su seguro excluye o no contempla las decisiones movidas por IA y que el contrato dejó la responsabilidad sin repartir. Cierra las dos cosas antes del lanzamiento, porque el momento del daño es el peor momento posible para averiguar quién paga.
Qué hacer
Establece quién responde del daño causado por la IA, en el contrato y en la norma. Antes de que se lance un sistema de alto riesgo, ten claro cómo se reparte la responsabilidad entre tú, tu proveedor y cualquier otra parte, y dónde la sitúa la norma con independencia del contrato.
Confirma que tu seguro cubre las decisiones movidas por IA; no des por hecho que sí. Comprueba explícitamente si tu cobertura contempla el daño derivado de decisiones automatizadas y asistidas por IA; muchas pólizas son anteriores a esta exposición y la excluyen por omisión. Cierra la laguna antes del despliegue, no después de la reclamación.
Controles
Enhanced2 controles
Control 188
Establece la asignación de responsabilidades legales antes de desplegar IA de alto riesgo.
EnhancedPreventivotodos los rolespor sistema
Qué es
Contractual y jurídica, documentada y aceptada.
Cómo implantarlo · Pasos
Enumera los daños que el sistema podría causar: a personas, a clientes, económicos y reputacionales
Determina quién asume cada daño según los contratos: la organización, el proveedor, los integradores, los clientes
Identifica, con asesoría jurídica, dónde sitúa la ley la responsabilidad con independencia del contrato
Deja constancia de la responsabilidad residual que asume la organización y de cómo se limita o se cubre
Haz que la dirección acepte formalmente el reparto antes de la puesta en marcha
Cómo arrancar
Convierte el análisis de responsabilidad en condición de lanzamiento: el sistema no entra en producción hasta que el análisis esté firmado.
Evidencia
El análisis de responsabilidad del despliegue y la aceptación de la dirección, con fecha anterior al lanzamiento.
Modo: ligero / estándar / completo
ligero
Un análisis de una página preparado con un abogado externo y firmado por el gerente.
estándar
Elaborado por jurídico y aceptado por el responsable de negocio del sistema y el responsable de riesgos.
completo
Paso obligatorio de la aprobación del despliegue, dirigido por jurídico y riesgos, elevado al consejo en los sistemas de mayor riesgo.
Control 189
Confirma la cobertura de seguro frente a los daños causados por la IA y cierra cualquier laguna.
EnhancedPreventivotodos los rolespor sistema
Qué es
Verificada explícitamente antes del lanzamiento, no presupuesta.
Cómo implantarlo · Pasos
Describe por escrito al corredor o a la aseguradora el sistema y el daño que podría causar
Pregunta expresamente si las pólizas vigentes (responsabilidad civil, profesional, ciberriesgos) cubren daños derivados de decisiones automatizadas o asistidas por IA
Obtén la respuesta por escrito, anotando exclusiones y límites
Cierra cualquier hueco: suplemento, nueva cobertura, cambio contractual o decisión documentada de asumir el riesgo
Vuelve a comprobarlo en cada renovación y cuando cambie el uso del sistema
Cómo arrancar
Envía al corredor una descripción escrita de este sistema y pregunta si las pólizas actuales cubren los daños derivados de sus decisiones.
Evidencia
La confirmación escrita de la aseguradora o del corredor y la constancia de cómo se cerró cualquier hueco.
Modo: ligero / estándar / completo
ligero
El gerente lo consulta al corredor por correo electrónico y archiva la respuesta con la documentación del sistema.
estándar
Finanzas o riesgos gestiona la consulta y revisa la cobertura en cada renovación.
completo
La función de seguros revisa la exposición a la IA de todos los sistemas y negocia coberturas específicas.
Evidencia
El análisis de responsabilidad de cada despliegue de alto riesgo; la confirmación de la cobertura del seguro y la subsanación de las lagunas que hubiera.