Riesgos, privacidad y cumplimiento
Prohibirlo no funciona: el equipo ya lo está usando. Lo que decides es si lo hace con una herramienta tuya o con una ajena.
Lo que Álvaro pegó en un chat un martes por la tarde
Álvaro tenía prisa. Copió el correo entero de un cliente —con su nombre, su NIF, el detalle de su nómina y un informe de baja médica que el cliente había adjuntado para justificar una deducción— y lo pegó en un chat gratuito para que le resumiera la consulta. Tardó cuatro segundos y funcionó perfectamente.
En términos del Reglamento General de Protección de Datos, en esos cuatro segundos el despacho ha comunicado datos personales de un cliente —incluidos datos de salud, que son de categoría especial— a un tercero con el que no tiene contrato de encargo del tratamiento, posiblemente fuera del Espacio Económico Europeo, y en un servicio cuyos términos permiten usar lo enviado para mejorar el modelo. Nadie lo ha decidido, nadie lo ha registrado y nadie se ha enterado.
Este módulo no va de asustar: va de que eso ya está pasando en tu organización —se llama IA en la sombra y es el riesgo dominante, muy por encima de cualquier escenario futurista— y de qué hace falta para que deje de pasar. Que resulta ser sorprendentemente poco: una herramienta aprobada, una página de política y dos horas de formación.
📋 Guía docente del módulo
Objetivos
- Aplicar los principios del RGPD al uso de servicios de IA: base jurídica, minimización, encargo del tratamiento y transferencias internacionales.
- Comprender la estructura del Reglamento europeo de IA por niveles de riesgo y qué obliga en cada uno.
- Identificar la obligación de alfabetización en IA y qué implica para una organización pequeña.
- Reconocer la IA en la sombra como el riesgo principal y cuantificar su exposición.
- Redactar una política de uso aceptable en una página.
Resultados de aprendizaje
- RA1. Determinar si un uso concreto exige contrato de encargo del tratamiento y qué debe contener.
- RA2. Clasificar un sistema de IA en el nivel de riesgo que le corresponde y enumerar sus obligaciones.
- RA3. Aplicar el principio de minimización mediante seudonimización antes de enviar datos a un tercero.
- RA4. Estimar el volumen anual de datos expuestos por uso no aprobado y el efecto de ofrecer una alternativa.
- RA5. Elaborar una política de uso que un equipo de seis personas pueda cumplir de verdad.
Bibliografía de referencia
- Reglamento (UE) 2016/679 (RGPD), artículos 5, 6, 9, 22, 28, 32, 35 y capítulo V, y la Ley Orgánica 3/2018 (LOPDGDD).
- Reglamento (UE) 2024/1689 de inteligencia artificial: artículo 4 (alfabetización), artículo 5 (prácticas prohibidas), artículo 50 (transparencia) y anexo III (alto riesgo).
- Agencia Española de Protección de Datos: guías sobre inteligencia artificial, tratamiento de datos y evaluaciones de impacto — material gratuito, en castellano y directamente aplicable.
- NIST AI Risk Management Framework (AI RMF 1.0), 2023 — el marco de gestión de riesgo más usado fuera del ámbito normativo europeo.
- OWASP Top 10 for Large Language Model Applications — los riesgos técnicos, incluida la inyección de instrucciones del módulo 6.
Carga de trabajo estimada
| Actividad | Horas |
|---|---|
| Lectura y estudio del material | 6 |
| Experimentación con el simulador | 2 |
| Ejercicios (resueltos y por cuenta propia) | 5 |
| Evaluación (quiz de módulo y repaso) | 2 |
| Total | 15 |
Aviso antes de seguir
Lo que viene es formación, no asesoramiento jurídico. Se explica la lógica de las normas y cómo se aplica a un caso concreto, con las referencias para que puedas ir a la fuente. Dos cautelas que van en serio:
- El calendario del Reglamento europeo de IA se ha retocado más de una vez desde su entrada en vigor. Antes de apoyar una decisión en una fecha concreta, compruébala en el texto consolidado y en las comunicaciones de la Comisión.
- Para una implantación que trate datos personales a cierta escala, esto no sustituye a un delegado de protección de datos ni a un abogado. Sí sirve para que la conversación con ellos dure una hora en vez de cinco.
RGPD: los seis puntos que decide una gestoría
| Punto | Qué exige | Qué significa para Marta |
|---|---|---|
| Encargado del tratamiento (art. 28) | Contrato con quien trate datos por tu cuenta, con instrucciones, seguridad y subencargados | El proveedor de IA es encargado. Sin ese contrato, el uso no es conforme. La versión de empresa lo ofrece; la gratuita normalmente no. |
| Minimización (art. 5.1.c) | Solo los datos adecuados y limitados a lo necesario | Para resumir una consulta no hace falta el NIF ni el nombre. Sustituirlos por marcadores es gratis y elimina el problema de raíz. |
| Categorías especiales (art. 9) | Salud, ideología, biometría: prohibidas salvo excepción tasada | El informe médico del cliente. Es la línea que Álvaro cruzó y la más grave de todas. |
| Transferencias (cap. V) | Garantías si los datos salen del Espacio Económico Europeo | Saber dónde se procesa. Varios proveedores permiten fijar la región; hay que activarlo, no viene puesto. |
| Decisiones automatizadas (art. 22) | Derecho a no ser objeto de decisiones solo automatizadas con efectos significativos | Un borrador que revisa una persona no es una decisión automatizada. Un sistema que denegara algo por su cuenta, sí. |
| Seguridad y evaluación de impacto (arts. 32 y 35) | Medidas técnicas apropiadas; evaluación previa si el riesgo es alto | Control de acceso del índice documental (módulo 5), registro de uso, y evaluación de impacto si el tratamiento crece. |
La medida que más rinde: seudonimizar antes de enviar
Casi todas las consultas del despacho se pueden resolver sin datos identificativos. Sustituir automáticamente el nombre por CLIENTE_1, el NIF por NIF_1 y las direcciones por marcadores antes de mandar el texto, y deshacer la sustitución al recibir el borrador, es un desarrollo de unas pocas horas que reduce drásticamente la superficie del problema: lo que sale ya casi no es dato personal.
Casi. Conviene ser honesto: un texto con suficiente detalle puede reidentificar a alguien aunque le quites el nombre —"el cliente con una nave en el polígono de tal y una inspección en 2024" identifica a una sola persona—. La seudonimización reduce el riesgo, no lo elimina, y el RGPD sigue aplicando a datos seudonimizados. Es una medida excelente y no es una exención.
El Reglamento europeo de IA, en el mapa que hay que tener
El Reglamento (UE) 2024/1689 no regula la tecnología: regula usos, por niveles de riesgo. Esa es la idea que hay que llevarse, porque significa que la misma herramienta puede estar en dos niveles distintos según para qué la uses.
| Nivel | Qué incluye | Qué obliga |
|---|---|---|
| Riesgo inaceptable | Puntuación social por autoridades, manipulación que cause daño, categorización biométrica por características sensibles, entre otras | Prohibido |
| Alto riesgo | Anexo III: empleo y selección de personal, educación, acceso a servicios esenciales, crédito, justicia, y otros | Gestión de riesgos, gobernanza de datos, documentación, registro, supervisión humana, precisión y ciberseguridad |
| Riesgo limitado | Sistemas que interactúan con personas y generación de contenido sintético | Transparencia (art. 50): avisar de que es una IA, marcar el contenido generado |
| Riesgo mínimo | La inmensa mayoría de los usos internos de oficina | Nada específico, más allá del resto del ordenamiento |
Dónde caen los usos de Bermejo & Asociados
- Borradores de correo revisados por un asesor: riesgo mínimo. Sigue aplicando el RGPD, pero el Reglamento de IA no añade obligaciones específicas.
- Clasificar facturas: riesgo mínimo.
- Un asistente en la web que hable con clientes: riesgo limitado. Hay que decir que es una IA. Y recuerda Moffatt contra Air Canada: lo que diga, lo dice el despacho.
- Cribar currículos, ya sea para el propio despacho o como servicio a un cliente: alto riesgo, anexo III. Este es el que sorprende a todo el mundo y el que más despachos van a pisar sin darse cuenta. Trae obligaciones serias y, si lo prestas como servicio, puedes acabar en la posición de proveedor.
El artículo 4: alfabetización en IA
Hay una obligación transversal que casi nadie menciona y que afecta a cualquier organización que use estos sistemas: garantizar que su personal tenga un nivel suficiente de conocimiento sobre IA, adecuado a su formación y al contexto de uso. No pide un certificado ni un curso homologado; pide que la gente que usa la herramienta entienda qué hace, dónde falla y qué no debe meter dentro.
Dicho de otro modo: lo que estás haciendo ahora mismo es lo que la norma pide. Y para una gestoría de seis personas, cumplirlo cuesta dos horas de sesión interna, una página de política y dejar constancia de que se ha hecho.
En España la supervisión del Reglamento de IA corresponde a la Agencia Española de Supervisión de la Inteligencia Artificial, con sede en A Coruña; la protección de datos sigue siendo competencia de la AEPD, cuyas guías sobre IA son gratuitas, están en castellano y son de las más aplicables que hay. Si solo vas a leer una fuente primaria de este módulo, que sean esas.
La IA en la sombra, que es el riesgo de verdad
Mientras se discute sobre riesgos existenciales, el incidente que va a tener tu organización es el de Álvaro. Las encuestas del sector coinciden en un rango incómodo: una proporción muy alta de empleados usa herramientas de IA no aprobadas en el trabajo, y una parte relevante ha pegado en ellas información de la empresa o de clientes. No por rebeldía: porque tenían prisa y funcionaba.
La consecuencia de gestión es la que da título a este módulo: prohibirlo no funciona. Una prohibición sin alternativa produce exactamente el mismo uso, pero en el móvil personal, sin registro y sin posibilidad de ayudar a nadie. Lo que sí funciona son tres cosas, por este orden:
- Dar una herramienta aprobada que sea al menos tan cómoda como la de fuera. Es el 80% del resultado. Si la herramienta oficial es peor, pierdes.
- Una política en una página, escrita en cristiano, que diga qué se puede pegar y qué no, con ejemplos concretos del trabajo real.
- Dos horas de formación con casos del propio despacho — y, de paso, el artículo 4 cumplido.
La política de Bermejo & Asociados, entera
Se puede usar la herramienta aprobada del despacho para: redactar borradores, resumir consultas, clasificar documentos, buscar en nuestro archivo y escribir el boletín.
Nunca se pega en ninguna herramienta que no sea la aprobada: nombres, NIF, direcciones, datos bancarios, nóminas, informes médicos ni documentos completos de clientes. Si tienes prisa, sustitúyelos por CLIENTE_1 antes.
Nunca sale sin revisar nada que vaya a un cliente o a un organismo. El borrador es un borrador. Quien lo envía, responde de él.
Se comprueba siempre toda cifra, fecha, plazo o referencia normativa contra la fuente. El modelo no consulta el BOE.
Se avisa a Marta de cualquier error que llegue a un cliente, sin consecuencias para quien avisa. Ese correo entra en el conjunto de prueba y así no vuelve a pasar.
La última línea es la más importante de la página y la que casi nadie escribe. Si informar de un error tiene coste personal, los errores no se informan, la tasa de error medida es una fantasía y todos los cálculos de este máster se construyen sobre arena. La cultura de reportar sin castigo no es un valor blando: es la condición para que exista el dato.
Simulador: cuántos datos salen por la puerta de atrás
Empieza en el despacho de Marta antes de hacer nada: 6 personas, 4 consultas a la semana cada una, el 30% con datos personales dentro y ninguna herramienta aprobada, así que el 100% del uso se va fuera. Son cientos de exposiciones al año. Ahora activa la herramienta aprobada y mira cómo cae la barra — y fíjate en que no cae a cero, porque siempre queda un porcentaje que usa lo suyo. Después prueba a subir la formación.
Aritmética simple, y ese es el punto: no hace falta un modelo sofisticado para ver que el número es grande. Lo que el simulador no dice —porque no se puede calcular— es cuánto cuesta una de esas exposiciones si acaba en una reclamación o en un expediente. Vale la misma advertencia del módulo 3: la distribución tiene una cola larga y el valor esperado calculado sobre incidentes rutinarios la subestima siempre.
✍️ Ejercicios resueltos
Ejercicio 1 — Clasificar cinco usos del despacho. Marta quiere saber a qué se enfrenta en cada caso. Clasifica estos cinco usos por nivel del Reglamento europeo de IA y di qué exige además el RGPD: (a) borradores de correo revisados; (b) clasificar facturas; (c) asistente en la web para clientes; (d) cribar currículos para una selección que le ha encargado un cliente; (e) resumir un informe médico aportado por un cliente.
Ver solución paso a paso
(a) Borradores revisados — riesgo mínimo. No hay decisión automatizada: decide y firma una persona. RGPD: contrato de encargo con el proveedor, minimización (seudonimizar antes de enviar) y control de dónde se procesa. Nada más.
(b) Clasificar facturas — riesgo mínimo. El menos problemático de los cinco. Suele contener datos de personas jurídicas y algunos de autónomos, que sí son personales. Mismo encargo de tratamiento.
(c) Asistente en la web — riesgo limitado. Obligación de transparencia del artículo 50: hay que decir claramente que se está hablando con un sistema automático. Y la lección de Moffatt contra Air Canada: lo que diga ese asistente vincula al despacho, así que hay que acotar de qué puede hablar y poner un camino claro hacia una persona.
(d) Cribar currículos — ALTO RIESGO. Anexo III: empleo, gestión de trabajadores y acceso al trabajo por cuenta propia. Trae gestión de riesgos, gobernanza de datos, documentación técnica, registro de actividad, supervisión humana efectiva y requisitos de precisión y ciberseguridad. Además, artículo 22 del RGPD: el candidato tiene derecho a no ser objeto de una decisión únicamente automatizada. Y si Marta lo presta como servicio a un cliente, hay que analizar en qué posición queda —usuaria o proveedora—, que no es lo mismo.
(e) Resumir un informe médico — el más delicado, y no por el Reglamento de IA. En niveles de riesgo es mínimo; en RGPD es artículo 9, categorías especiales. El tratamiento está prohibido salvo excepción tasada, y "para que el resumen sea más rápido" no es ninguna de ellas. Aquí la respuesta correcta no es un contrato: es no hacerlo, o extraer manualmente el dato concreto que hace falta —las fechas de la baja— y trabajar solo con eso.
La lección de gestión: el uso que parecía más inofensivo —(d), que es "solo leer currículos"— es el único de alto riesgo, y el que parecía técnico —(e)— es el que puede acabar en un expediente sancionador. La intuición sobre qué es arriesgado es sistemáticamente mala aquí, porque la norma no clasifica por lo sofisticado que sea el sistema sino por lo que le puede pasar a la persona del otro lado. Cuando dudes, pregúntate qué se juega esa persona.
Ejercicio 2 — Lo que cuesta no dar una herramienta. Seis personas, 4 consultas semanales cada una, 48 semanas al año, el 30% con datos personales. Sin herramienta aprobada, todo se va fuera. Con herramienta aprobada y formación, el uso no aprobado baja al 15% y la seudonimización cubre el 60% de lo que queda. Calcula la exposición anual en ambos casos.
Ver solución paso a paso
Paso 1 — Consultas al año. 6 × 4 × 48 = 1.152 consultas.
Paso 2 — Con datos personales. 1.152 × 0,30 = 345,6 al año.
Paso 3 — Situación actual. Sin herramienta aprobada, el 100% va a servicios sin contrato de encargo: 346 exposiciones al año, casi una al día laborable.
Paso 4 — Con herramienta y formación. Fuera se va el 15%: 345,6 × 0,15 = 51,8. De esas, la seudonimización cubre el 60%: 51,8 × 0,40 = 20,7 exposiciones al año.
Paso 5 — Reducción. De 346 a 21: un 94% menos. Coste de conseguirlo: la herramienta aprobada (que Marta ya iba a pagar de todos modos), 2 horas de formación para seis personas (12 horas × 22 € = 264 €) y unas horas de desarrollo para la seudonimización.
Paso 6 — Y por qué no baja a cero. Porque siempre queda gente con prisa, gente que trabaja en el móvil y gente que no estaba el día de la formación. Un plan que suponga cumplimiento del 100% no es un plan, es un deseo. Diseña para el 85% y pon el resto en el registro y en la cultura de avisar.
La lección de gestión: aquí está lo que hay que entender de todo el módulo. La prohibición es gratis de escribir y no reduce la exposición: la vuelve invisible. La herramienta aprobada cuesta dinero y la reduce un 94%. Cuando el comportamiento que quieres evitar es útil para quien lo hace, la única política que funciona es dar una alternativa mejor. Vale exactamente igual para la IA que para cualquier otra norma interna que la gente se salta porque le estorba.
Quiz — Riesgos, privacidad y cumplimiento
12 preguntas — se supera con 70% o más.