Aprovisionamiento y gestión de terceros

Por qué existe

La mayoría de las organizaciones que adoptan IA no la construyen: la compran. Deja que ese hecho decida dónde concentras el esfuerzo. Cuando compras una solución de IA en lugar de construirla, no solo externalizas el trabajo: entregas a otra empresa el control de las partes del sistema que más importan, es decir, el modelo en sí, los datos de los que aprendió, con qué frecuencia cambia y las formas en que puede fallar. No vas a ver dentro de ninguna de ellas. Trata la elección de comprar o no, y la de qué proveedor, como decisiones de gobierno por derecho propio, y no como un trámite de compras que resuelve quien llegue primero.

Decide si vas a construir o a comprar antes de hablar con ningún proveedor, porque esa decisión hace algo más que elegir un suministrador: fija de qué eres responsable. Si compras un servicio de IA terminado y lo usas tal como viene, eres usuario (consumer), y tus obligaciones tienen que ver sobre todo con elegir y supervisar al proveedor. Si tomas el modelo de otro y lo integras, lo configuras o lo conectas a tus propios sistemas, eres integrador (deployer), y pasas a ser responsable de cómo se comporta en tu contexto. Si entrenas un modelo, o adaptas uno sustancialmente a tus propios datos —la actividad que suele llamarse afinado—, eres desarrollador (developer), y cargas con todo el peso de construir IA, incluida la responsabilidad sobre los datos de entrenamiento y sobre el comportamiento del modelo. Pon por escrito cuál de los tres eres. Los equipos se deslizan de comprar a afinar sin darse cuenta de que se han convertido en desarrolladores, y en ese momento todas las salvaguardas que daban por hecho que solo eran compradores dejan de aplicarse sin hacer ruido.

Las comprobaciones de proveedores que ya tienes se escribieron para software corriente y aquí no te protegerán. Preguntan si el suministrador es financieramente solvente, si tiene certificaciones de seguridad y si firmará un contrato aceptable. Nada de eso te dice si el proveedor está usando tus datos en silencio para mejorar su modelo, dónde se tratan realmente tus datos en el momento en que el modelo responde, o si el proveedor puede sustituir el modelo de la noche a la mañana y cambiar cómo se comporta. Esas son las preguntas que deciden tu exposición real. Hazlas antes de firmar, no después de que un incidente te obligue.

Sopesa seis cosas antes de decidir si construyes o compras

Ningún factor por sí solo resuelve la decisión; la resuelve el equilibrio entre estos seis, que además tiran a menudo en direcciones opuestas. Recórrelos todos y registra dónde queda cada uno.

• Cuenta el coste total de propiedad, no el precio de catálogo. La comparación no es una cuota de licencia frente a un salario. Comprar arrastra costes recurrentes de funcionamiento, el coste de las comprobaciones de seguridad y de la monitorización que tienes que montar alrededor de un sistema cuyo interior no ves, y el coste eventual de marcharte. Construir arrastra los costes, mucho mayores y menos visibles, de reunir y limpiar datos, contratar especialistas escasos, mantener la infraestructura y —la parte que más se olvida en las decisiones de construir— mantener el modelo funcionando mucho después del lanzamiento, porque un modelo hay que reentrenarlo a medida que cambia el mundo para el que se construyó. Un plan de construir que parece barato por uso suele dejar de parecerlo en cuanto se cuentan estas partidas.
• Sé honesto sobre si tienes los datos, las capacidades y el tiempo para construir. Construir solo es una opción real si ya dispones de datos de calidad y cantidad suficientes, empleas a los especialistas capaces de convertirlos en un modelo y puedes esperar a que esa inversión se devuelva. La mayoría de las organizaciones sobrestiman las tres cosas. Una respuesta honesta a menudo retira la opción de construir de la mesa, lo cual es un buen resultado, porque evita que una organización sin medios asuma las pesadas obligaciones de quien construye modelos y no puede cumplirlas.
• Compara la exposición normativa de cada camino, porque no es la misma. Comprar puede heredar la posición de cumplimiento del proveedor: tranquilizador si el proveedor está bien gestionado, peligroso si sus prácticas de datos o las fuentes con las que entrenó son confusas o están en disputa. Construir te hace directamente responsable de la licitud de tus datos de entrenamiento, de la defendibilidad de las decisiones de tu modelo y de la integridad de tu propia evidencia ante un organismo supervisor. El camino más fácil de construir es con frecuencia el más difícil de defender. Sopesa los dos, no solo el que te resulte más cómodo.
• Comprueba que la elección encaja con cómo funciona de verdad tu organización. Un modelo que construyes pero que no tienes equipo para operar, o un servicio que compras pero que no puedes conectar a tus controles y a tus sistemas de identidad, es la elección equivocada cueste lo que cueste. Juzga la decisión frente a cómo trabaja tu organización hoy, no frente a un estado futuro ideal al que quizá nunca llegues.
• Compara la exposición en privacidad de cada camino. Comprar suele significar enviar datos —incluidos, salvo que lo impidas, datos personales y confidenciales— a un tercero cuya conservación y reutilización de esos datos debes limitar por contrato y por medios técnicos. Construir mantiene los datos dentro, pero reúne un almacén grande y sensible en un solo sitio y crea sus propios deberes sobre el uso lícito, sobre conservar solo lo necesario y sobre borrar cuando se solicite. «Dentro es más seguro» no es la respuesta; evalúa las dos exposiciones por sus méritos.
• Pon precio a la dependencia del proveedor y al coste de marcharte. Montar tu operación alrededor de un único proveedor de IA es barato de empezar y caro de abandonar: tus instrucciones, tus adaptaciones, tus pruebas y el saber hacer de tu personal se acumulan en torno al modelo de un proveedor hasta que cambiarse resulta impracticable. Algunas organizaciones ya están obligadas a planificar para esto. Las entidades financieras sujetas al régimen europeo de resiliencia operativa digital (DORA), por ejemplo, deben mantener una estrategia de salida documentada y una cláusula de salida para sus proveedores tecnológicos críticos, precisamente para que el fallo o la retirada de un suministrador no las deje varadas. Aun donde ninguna norma te obligue, adopta la misma disciplina siempre que una capacidad de IA venga de un solo proveedor: acuerda, antes de comprometerte, cómo te marcharías y cuánto costaría. Una dependencia aceptada sin poner precio a la salida es un pasivo que posee el consejo, no el equipo que firmó el contrato.

Conoce a qué te obliga el camino que has elegido

Una vez tomada la decisión, el camino elegido impone un conjunto fijo de garantías. No son preferencias que sopesar; son el mínimo que debes asegurar.

• Si compras, asegura esto antes de la puesta en marcha. Confirma que el proveedor no usará tus datos para mejorar su modelo salvo que se lo permitas expresamente. Establece, y acepta, dónde se tratan tus datos cuando el modelo se ejecuta. Obtén el derecho contractual a que te avisen antes de que el modelo cambie. Establece cómo recuperarías tus datos y tu configuración, y cuánto costaría marcharte. Confirma de quién es lo que el servicio produce para ti y en qué condiciones puedes usarlo. Y mantén al proveedor bajo supervisión continua mientras dependas del servicio.
• Si construyes o adaptas sustancialmente un modelo, tu propio equipo debe asegurar esto. Confirma que los datos con los que entrenas son lícitos de usar y que su origen está documentado. Asegúrate de que puedes explicar y defender las decisiones que toma el modelo. Confirma que tienes las personas y el presupuesto para operar y mantener el modelo después del lanzamiento, y no solo para construirlo: es el coste que más se subestima. Y acepta, en su totalidad, los deberes de seguridad y de prueba que recaen sobre quien construye IA (expuestos en el dominio de seguridad técnica).

Evalúa al proveedor antes de comprar: pon las preguntas por escrito

No te fíes del material comercial del proveedor ni de un formulario genérico de seguridad. Evalúa el gobierno, la seguridad y el tratamiento de datos del producto que estás a punto de adquirir, y hazlo planteando preguntas concretas al proveedor por escrito y registrando las respuestas. Pregunta, como mínimo, si entrenan con tus datos, dónde se tratan tus datos, si te avisarán de un cambio de modelo y cómo, cómo prueban el modelo frente a ataques y cómo te marcharías. El ejemplo de abajo muestra la forma que puede tener ese cuestionario; trata una respuesta evasiva o ausente como un hallazgo por derecho propio, no como una casilla que quedó en blanco.

Un ejemplo de cuestionario de diligencia debida para proveedores de IA. Entrégalo a cualquier proveedor de un producto, un modelo o un servicio de IA antes de darlo de alta, y conserva las respuestas.

Pon el aviso de cambio de modelo en el contrato, y no dejes que lo quiten

Un proveedor puede sustituir el modelo que hay detrás de la misma conexión sin decírtelo, y cambiar cómo responde sin que nada haya cambiado en tus propios sistemas: así se reabre una debilidad que habías cerrado o se rompe una comprobación que habías validado. Exige, por escrito, que el proveedor te avise con antelación de cualquier sustitución o cambio significativo del modelo subyacente, para que el cambio sea un evento que puedas preparar y volver a comprobar, y no una sorpresa que descubran por ti tus usuarios.

Mete los modelos gratuitos y los agentes de mercado dentro de las mismas comprobaciones

Un modelo que descargas sin coste, o un «agente» autónomo que obtienes de un mercado en línea, sigue siendo un proveedor —con un origen, una licencia y una integridad que no puedes dar por supuestos— aunque no haya intervenido ningún comercial. Antes de usarlo, establece de dónde viene, qué te permite hacer su licencia y que no ha sido manipulado. No dejes que la ausencia de contrato lo coloque fuera de tu gobierno de proveedores.

• Si usas la IA tal como viene, hazte dueño de su configuración. Un servicio que no construiste tiene igualmente ajustes que deciden qué pasa con tus datos y cuándo cambia el modelo que hay debajo. Configúralos deliberadamente y sigue atento a los avisos del proveedor: para un usuario, ahí es donde reside realmente la mayor parte del control.

Controles

Evidencia

La configuración de datos registrada para cada servicio y el registro de los avisos de cambio del proveedor; los registros de la decisión de construir o comprar, con el rol que te atribuye; los cuestionarios de diligencia debida cumplimentados; los contratos y las condiciones de tratamiento de datos, incluidas las cláusulas de cambio de modelo y de salida; las evaluaciones de riesgo de cada proveedor; los registros de seguimiento de proveedores.