¿Qué es la protección de datos en el contexto de la IA?
Privacidad, seguridad e identidad
La protección de datos es el conjunto de normas y prácticas que regula cómo se recopilan, utilizan, almacenan y comparten los datos personales, articulado en torno a principios duraderos como la licitud, la limitación de la finalidad, la minimización de datos, la exactitud, la limitación del plazo de conservación, la seguridad y la responsabilidad proactiva. En el contexto de la IA, es el régimen central con el que interactúan la mayoría de los sistemas, porque los datos de entrenamiento, las entradas y salidas de los modelos, la elaboración de perfiles y las decisiones automatizadas implican habitualmente información sobre personas identificables. Es más amplio que cualquier norma concreta y distinto de la privacidad como derecho.
Revisado por Jackie, Head of Learning & Development, Levellers - Última revisión: 8 de junio de 2026
Qué significa esto
La protección de datos es el conjunto de normas y prácticas operativas que regula lo que las organizaciones pueden hacer con los datos personales, es decir, cualquier información relativa a una persona física identificada o identificable. Establece las condiciones para recopilar, utilizar, almacenar, compartir y suprimir esos datos, y reconoce a las personas derechos sobre la información que les concierne. Se aplica siempre que una persona pueda ser identificada, directa o indirectamente, aunque no figure su nombre.
Conviene distinguir tres conceptos que a menudo se confunden. La privacidad es un derecho humano amplio, reconocido en instrumentos como la Declaración Universal de Derechos Humanos, relacionado con la vida privada y la libertad frente a intromisiones. La protección de datos es un campo relacionado pero distinto, centrado específicamente en el tratamiento de datos personales; en el derecho de la UE se reconoce incluso como un derecho fundamental independiente. El GDPR es un instrumento concreto que implementa la protección de datos en la UE y, en su versión adaptada, en el Reino Unido; no abarca todo el campo. La seguridad de la información es aún más específica: es uno de los componentes de la protección de datos (mantener los datos seguros), no un sustituto del tratamiento lícito, equitativo y responsable que exige el régimen en su conjunto.
En un entorno de IA, la protección de datos es el régimen que más frecuentemente entra en juego en primer lugar. Los modelos se entrenan con grandes conjuntos de datos que a menudo contienen datos personales; los prompts y las entradas pueden contener datos personales; las salidas pueden revelarlos o inferirlos; y muchos usos de la IA implican la elaboración de perfiles o la toma de decisiones sobre personas. Los reguladores han dejado claro que no existe ninguna "exención para la IA" respecto a estas normas.
Por qué importa
Para quienes desarrollan, adquieren o gobiernan sistemas de IA, la protección de datos suele ser la primera restricción legal de peso que hay que superar, y la que cuenta con los mecanismos de aplicación más contundentes. En la mayoría de los regímenes, las obligaciones fundamentales son suficientemente similares como para que aplicar bien los principios sea válido en distintas jurisdicciones, mientras que incumplirlos resulta costoso y público.
Las consecuencias son concretas. Las infracciones de los principios básicos de tratamiento se sitúan en el nivel más alto de multas del UK GDPR: hasta 17,5 millones de libras esterlinas o el 4 por ciento del volumen de negocio anual total a nivel mundial, la cifra que sea mayor. Los reguladores ya han aplicado la normativa de protección de datos a la IA: la autoridad italiana multó a Clearview AI con 20 millones de euros en 2022 por su base de datos de reconocimiento facial, y el 3 de septiembre de 2024 la Autoriteit Persoonsgegevens neerlandesa impuso una multa de 30,5 millones de euros a la misma empresa, la mayor sanción de privacidad en la UE hasta la fecha, por una base de datos descrita como "más de 30.000 millones de fotos" convertidas en códigos biométricos únicos. El Garante italiano también multó a OpenAI con 15 millones de euros el 20 de diciembre de 2024, la primera multa del GDPR contra una empresa de IA generativa, por tratar datos personales para entrenar ChatGPT sin una base jurídica adecuada, incumplir las obligaciones de transparencia y carecer de verificación de edad. No son casos excepcionales; demuestran que el rastreo de datos públicos, la construcción de sistemas biométricos o el entrenamiento de modelos de gran escala con datos personales quedan plenamente dentro del ámbito del régimen.
Más allá de las multas, la protección de datos determina si un producto puede comercializarse lícitamente. Una base jurídica mal fundamentada, una finalidad no declarada, un uso de alto riesgo no gestionado o la imposibilidad de atender los derechos individuales pueden detener el despliegue, obligar a reentrenar el modelo o dar lugar a órdenes de supresión de datos o modelos. Incorporar la protección de datos como elemento de diseño, en lugar de como verificación de cumplimiento tardía, marca la diferencia entre un sistema que escala y uno que se retira del mercado.
Cómo funciona
Los principios comunes que trascienden los regímenes
La mayoría de los regímenes modernos de protección de datos comparten un núcleo reconocible. El UK GDPR establece siete principios en su artículo 5: licitud, lealtad y transparencia; limitación de la finalidad; minimización de datos; exactitud; limitación del plazo de conservación; integridad y confidencialidad (seguridad); y responsabilidad proactiva. Las Directrices de Privacidad de la OECD, acordadas por primera vez en 1980 y actualizadas en 2013, recogen un conjunto estrechamente relacionado de ocho: limitación de la recogida, calidad de los datos, especificación de la finalidad, limitación del uso, salvaguardias de seguridad, apertura, participación individual y responsabilidad. La formulación difiere, pero la lógica es la misma: recopilar solo lo necesario, para una finalidad clara y declarada; mantener los datos exactos y seguros; conservarlos solo el tiempo imprescindible; ser transparente sobre lo que se hace; y poder demostrar el cumplimiento. Estos principios constituyen el eje duradero del campo y el punto de referencia adecuado para el trabajo con IA, porque no dependen de ninguna tecnología concreta.
Datos personales, categorías especiales e identificabilidad
El régimen se aplica a los datos personales: información relativa a una persona identificada o identificable. Un subconjunto recibe un tratamiento más estricto por su mayor sensibilidad. Con arreglo al artículo 9 del GDPR, los "datos de categorías especiales" incluyen datos que revelen el origen racial o étnico, las opiniones políticas, las convicciones religiosas o filosóficas, la afiliación sindical, los datos genéticos, los datos biométricos tratados con el fin de identificar de manera unívoca a una persona, y los datos relativos a la salud, la vida sexual o la orientación sexual. Los datos biométricos se definen de forma restrictiva: una fotografía solo se convierte en dato biométrico cuando se trata mediante técnicas técnicas específicas para identificar a alguien. Esto reviste especial importancia para la IA, porque el reconocimiento facial, el análisis de voz y sistemas similares generan habitualmente datos de categorías especiales y activan condiciones más estrictas.
Base jurídica, elaboración de perfiles y decisiones automatizadas
El tratamiento de datos personales requiere una base jurídica (como el consentimiento, la ejecución de un contrato o los intereses legítimos). En lo que respecta al entrenamiento de IA con datos personales, los reguladores han centrado su atención en si los intereses legítimos pueden aplicarse y en qué condiciones. Por otro lado, el régimen restringe las decisiones basadas exclusivamente en el tratamiento automatizado que produzcan efectos jurídicos o igualmente significativos. El artículo 22 del GDPR reconoce a las personas el derecho a no ser objeto de tales decisiones salvo en circunstancias definidas, con garantías que incluyen el derecho a obtener intervención humana, a expresar su punto de vista y a impugnar la decisión. La elaboración de perfiles y la toma de decisiones automatizada están, por tanto, directamente reguladas por la protección de datos, lo que explica por qué gran parte de la gobernanza de la IA pasa por este régimen.
Herramientas de responsabilidad proactiva: diseño, EIPD y registros
La responsabilidad proactiva se operacionaliza mediante obligaciones específicas. La protección de datos desde el diseño y por defecto exige a los responsables del tratamiento que incorporen los principios a los sistemas desde el principio y que establezcan por defecto un tratamiento mínimo. Una Evaluación de Impacto relativa a la Protección de Datos (EIPD) es obligatoria antes de cualquier tratamiento que pueda entrañar un alto riesgo para las personas, lo que incluye expresamente la evaluación sistemática a gran escala mediante elaboración de perfiles, el tratamiento a gran escala de datos de categorías especiales y el uso de tecnologías innovadoras como la IA. La EIPD obliga a la organización a describir el tratamiento, evaluar la necesidad y proporcionalidad, valorar los riesgos y establecer medidas de mitigación antes de la puesta en marcha.
Instituciones: autoridades de supervisión y organismos de normalización
Las autoridades de supervisión independientes, comúnmente denominadas autoridades de protección de datos, supervisan y aplican la normativa. Disponen de poderes de investigación, corrección y asesoramiento, incluida la facultad de ordenar cambios, prohibir tratamientos, ordenar la supresión de datos e imponer multas. Por encima de los organismos nacionales, instituciones coordinadoras como el Comité Europeo de Protección de Datos emiten orientaciones y resuelven conflictos. Las normas y marcos complementan la legislación sin sustituirla: el Marco de Privacidad del NIST es una herramienta voluntaria, deliberadamente agnóstica respecto a cualquier tecnología, sector, ley o jurisdicción concretos, que ayuda a las organizaciones a gestionar el riesgo de privacidad a través de la gestión del riesgo empresarial.
La dimensión internacional
La protección de datos es cada vez más global. El Convenio 108 del Council of Europe, abierto a la firma en 1981, fue el primer tratado internacional vinculante en este ámbito; su versión modernizada, el Convenio 108+, se finalizó en 2018 y añade disposiciones sobre datos biométricos, transparencia algorítmica y una supervisión más sólida. Muchas jurisdicciones han alineado sus legislaciones con el GDPR a través de lo que la investigadora principal de la IAPP Muge Fazlioglu describe como un "efecto Bruselas" mundial, con países como Brasil, Tailandia, China, Arabia Saudí e India que aprobaron sus primeras leyes integrales de privacidad de datos en la década de 2020. Según el Directorio Global de Leyes de Privacidad y Autoridades de Protección de Datos de la IAPP, las leyes de protección de datos y privacidad están vigentes en 144 países, que cubren aproximadamente 6.640 millones de personas, alrededor del 82 por ciento de la población mundial. El resultado es un mosaico amplio y creciente de regímenes nacionales que comparten el mismo núcleo de principios, pero difieren en los detalles.
Ejemplos
Entrenamiento de un modelo generativo con datos de la web. Cuando los desarrolladores de IA rastrean la web abierta para construir modelos, los reguladores consideran que los datos personales capturados en ese proceso están dentro del ámbito de aplicación. La Opinión 28/2024 del Comité Europeo de Protección de Datos, adoptada en diciembre de 2024, concluyó que los modelos de IA entrenados con datos personales no pueden considerarse anónimos en todos los casos, que el anonimato debe evaluarse caso por caso, y que los intereses legítimos solo pueden constituir una base jurídica para el entrenamiento si se supera un test de necesidad y ponderación en tres pasos. La ICO del Reino Unido ha adoptado una posición comparable, indicando que los intereses legítimos son probablemente la única base disponible para el rastreo de datos de entrenamiento, e instando a los desarrolladores a mejorar la transparencia y a respetar los derechos individuales.
Despliegue de reconocimiento facial. Clearview AI construyó una base de datos con miles de millones de imágenes faciales extraídas de la web y comercializó servicios de identificación. La autoridad italiana declaró esta práctica ilícita por vulnerar múltiples principios, entre ellos la licitud, la transparencia, la limitación de la finalidad y la limitación del plazo de conservación, así como las normas sobre datos biométricos de categorías especiales, e impuso una multa de 20 millones de euros en 2022 con una orden de supresión de los datos de personas en Italia. El 3 de septiembre de 2024, la autoridad neerlandesa de protección de datos impuso una multa adicional de 30,5 millones de euros, apreciando infracciones de los artículos 5(1)(a), 6, 9(1) y 12 del GDPR; señaló que Clearview "no ha impugnado esta decisión y, por tanto, no puede recurrir la multa". Este es un ejemplo ilustrativo de por qué la IA biométrica casi siempre activa las partes más estrictas del régimen.
Un asistente de IA generativa en la UE. El Garante italiano impuso un bloqueo temporal al tratamiento de datos de usuarios italianos por parte de ChatGPT el 30 de marzo de 2023 y, posteriormente, el 20 de diciembre de 2024, emitió una multa de 15 millones de euros junto con una campaña obligatoria de concienciación pública de seis meses en radio, televisión, prensa escrita y medios digitales italianos. El caso giró en torno a cuestiones clásicas de protección de datos: la base jurídica para utilizar datos personales en el entrenamiento del modelo, la transparencia hacia los usuarios y la verificación de edad. El ejemplo muestra cómo los principios, y no ninguna norma específica sobre IA, fueron el marco de la actuación sancionadora.
Malentendidos frecuentes
"La protección de datos y el GDPR son lo mismo." No. El GDPR es un instrumento dentro de un campo mucho más amplio. Muchos países cuentan con sus propias leyes de protección de datos, e instrumentos internacionales como las Directrices de la OECD y el Convenio 108+ son anteriores al GDPR y coexisten con él.
"La protección de datos es simplemente privacidad." Se solapan, pero son conceptos distintos. La privacidad es un derecho amplio relativo a la vida privada; la protección de datos es un régimen específico que regula el tratamiento de datos personales, reconocido en el derecho de la UE como un derecho fundamental independiente con sus propias normas detalladas.
"La protección de datos equivale a la seguridad de la información." La seguridad (integridad y confidencialidad) es solo uno de los varios principios. El tratamiento lícito, equitativo, transparente y responsable es obligatorio incluso cuando los datos están perfectamente protegidos.
"Existe una exención para la IA." No existe. Los reguladores han declarado expresamente que los sistemas de IA que tratan datos personales deben cumplir la normativa, y que incluso el tratamiento incidental está incluido.
"Si un modelo solo produce estadísticas, no hay datos personales implicados." No necesariamente. Los datos personales pueden permanecer absorbidos en los parámetros de un modelo y ser extraíbles mediante consultas, por lo que un modelo entrenado no es automáticamente anónimo.
Riesgos y límites
La protección de datos no es un reglamento completo para la IA. Regula los datos personales, por lo que no aborda por sí sola la seguridad, la exactitud de los resultados no personales, la propiedad intelectual, la competencia o la responsabilidad por productos, y no sustituye a una legislación específica sobre IA. Con frecuencia se aplica de forma meramente formal: una EIPD redactada tras el lanzamiento, o un aviso de privacidad sobre el que nadie puede actuar, no satisfacen ni la letra ni el espíritu del régimen.
Varias cuestiones siguen sin resolverse. Las condiciones precisas en las que un modelo entrenado puede considerarse anónimo, y cuándo los intereses legítimos justifican el entrenamiento con datos extraídos de la web, siguen siendo objeto de debate y se están dilucidando caso por caso, sin reglas claras y definitivas. Las orientaciones también evolucionan: los reguladores han anunciado trabajos adicionales sobre el rastreo web y sobre la IA generativa y agéntica, y algunas legislaciones nacionales están siendo modificadas. La aplicación de sanciones a entidades fuera de una jurisdicción puede ser jurídicamente válida, pero en la práctica resulta difícil de ejecutar.
La situación jurídica concreta también puede cambiar tras la emisión de una resolución. Una multa anunciada puede ser recurrida, suspendida por un tribunal o reducida, por lo que cualquier cifra de sanción debe interpretarse como la situación en un momento determinado, no como una responsabilidad firme y definitiva.
Qué hacer a continuación
Partir de los principios, no de las herramientas. Identificar dónde entran datos personales en el ciclo de vida de la IA: datos de entrenamiento, datos de ajuste fino, prompts y entradas, fuentes de recuperación, registros y salidas. Para cada uno, determinar la finalidad, la base jurídica y los datos mínimos realmente necesarios.
Realizar una EIPD antes del despliegue para cualquier uso de alto riesgo, lo que incluye la elaboración de perfiles, el tratamiento a gran escala de datos de categorías especiales y el uso de tecnologías innovadoras como la IA. Tratarla como un instrumento de diseño que puede modificar el desarrollo, no como un trámite que se cumplimenta a posteriori.
Incorporar la protección de datos desde el diseño a la arquitectura: minimizar la recogida, establecer configuraciones predeterminadas que protejan la privacidad, permitir la identificación y supresión de los datos de personas concretas cuando sea viable, y hacer posible atender las solicitudes de acceso, oposición y supresión en todo el sistema, incluidos los conjuntos de entrenamiento.
Abordar desde el principio el análisis de categorías especiales y datos biométricos, porque el reconocimiento facial, la inferencia de emociones o rasgos y usos similares se enfrentan a los umbrales más elevados y concentran la mayor parte de la actividad sancionadora. Documentar el razonamiento.
Clarificar los roles en la cadena de suministro (responsable del tratamiento, encargado del tratamiento, corresponsables), reflejarlos en los contratos y preguntar a los proveedores cómo sus sistemas contribuyen al cumplimiento de las obligaciones propias. Mantener registros que permitan demostrar el cumplimiento ante una autoridad de supervisión.
Seguir los cambios: monitorizar las orientaciones de la autoridad competente sobre datos de entrenamiento, rastreo web e IA generativa, y tratar las leyes y resoluciones sancionadoras mencionadas como ejemplos actuales sujetos a cambios.
Relacionado: una DSAR.
Relacionado: IAM.
Relacionado: ¿SAML? Guía práctica sobre federación e inicio de sesión único empresarial.
Relacionado: ¿OAuth? Guía práctica sobre autorización delegada.
Relacionado: ¿JWT? Guía práctica sobre claims de tokens, confianza y validación.
Relacionado: ¿TLS? Guía práctica sobre transporte cifrado y conexiones seguras.
Relacionado: un jailbreak de IA.
¿Tiene alguna pregunta o sugerencia, o desea saber cómo investigamos y revisamos estas guías? Lea sobre nuestros estándares editoriales y cómo contactarnos.
Preguntas frecuentes
¿La protección de datos es lo mismo que el GDPR?
No. La protección de datos es el amplio campo del derecho y la práctica que regula los datos personales. El GDPR es un instrumento que lo implementa en la UE y, en su versión adaptada, en el Reino Unido. Muchos otros países cuentan con sus propias leyes, e instrumentos internacionales como las Directrices de Privacidad de la OECD y el Convenio 108+ también forman parte del campo.
¿En qué se diferencia la protección de datos de la privacidad?
La privacidad es un derecho humano amplio relativo a la vida privada y a la libertad frente a intromisiones. La protección de datos es un régimen más específico y técnico, centrado en cómo se tratan los datos personales. En el derecho de la UE, ambos se reconocen como derechos fundamentales independientes.
¿Cuáles son los principios fundamentales de la protección de datos?
Habitualmente: licitud, lealtad y transparencia; limitación de la finalidad; minimización de datos; exactitud; limitación del plazo de conservación; integridad y confidencialidad (seguridad); y responsabilidad proactiva. La OECD recoge un conjunto estrechamente relacionado de ocho principios. Estos son estables en la mayoría de los regímenes.
¿Se aplica la normativa de protección de datos a los sistemas de IA?
Sí, siempre que traten datos personales. Los reguladores han declarado que no existe ninguna exención para la IA. Los datos de entrenamiento, las entradas, las salidas, la elaboración de perfiles y las decisiones automatizadas implican habitualmente datos personales y, por tanto, quedan dentro del régimen.
¿Puede un modelo de IA entrenado contener datos personales?
Sí. Los reguladores han constatado que los datos personales pueden permanecer absorbidos en los parámetros de un modelo y ser extraíbles mediante consultas, por lo que un modelo entrenado con datos personales no es automáticamente anónimo y debe evaluarse caso por caso.
¿Cuándo es obligatoria una EIPD para la IA?
Antes de cualquier tratamiento que pueda entrañar un alto riesgo para las personas. Esto incluye expresamente la elaboración de perfiles sistemática a gran escala, el tratamiento a gran escala de datos de categorías especiales y el uso de tecnologías innovadoras como la IA.
¿Qué es una autoridad de protección de datos?
Una autoridad de supervisión independiente que vigila y aplica la normativa de protección de datos, con poderes para investigar, ordenar cambios, prohibir tratamientos, exigir la supresión de datos e imponer multas. Los organismos coordinadores emiten orientaciones y resuelven conflictos transfronterizos.
¿Qué ocurre si no se cumple la normativa?
Las consecuencias van desde órdenes correctivas y prohibiciones de tratamiento hasta órdenes de supresión y multas elevadas, además del daño reputacional. Las infracciones de los principios básicos se sitúan en el nivel más alto de multas del UK GDPR.