¿Qué es la regulación de la IA en plataformas en línea y moderación de contenidos?
Regulación de la IA: sectores y ámbitos
La regulación de la IA en plataformas en línea y moderación de contenidos es el conjunto de leyes, orientaciones regulatorias y prácticas de gobernanza que se aplican cuando los servicios en línea utilizan IA para generar, clasificar, etiquetar, autenticar, reducir la visibilidad o eliminar contenidos. No es una ley única. Se sitúa en la intersección de la regulación de plataformas, la seguridad en línea, los derechos de expresión, los medios sintéticos, la privacidad y la protección del consumidor. En la práctica, las organizaciones enfrentan obligaciones en materia de avisos, recursos de apelación, evaluación de riesgos, etiquetado, registro, pruebas, controles para usuarios y gobernanza responsable.
Revisado por Jackie, Head of Learning & Development, Levellers - Última revisión: 8 de junio de 2026
Qué significa esto
Las plataformas en línea utilizan ahora la IA en varios puntos de la cadena de contenidos: para recomendar publicaciones, detectar fraudes o abusos, priorizar denuncias, filtrar resultados de búsqueda, etiquetar medios sintéticos y, en ocasiones, generar contenido dentro del propio servicio. La regulación sigue esas funciones, no solo el modelo.
Esto significa que el tema es más amplio que la legislación sobre deepfake y más amplio que la ley general de IA. Abarca la capa de servicio, la forma en que una plataforma presenta, suprime, señala o autentica contenidos, y el proceso que ofrece a los usuarios cuando esas decisiones son incorrectas.
No existe un reglamento global único. En cambio, las organizaciones se enfrentan a un conjunto de obligaciones superpuestas. Algunas normas se centran en los contenidos ilegales y los recursos de los usuarios; otras, en la seguridad infantil y la integridad cívica; otras, en la procedencia y la divulgación; y otras, en la gobernanza interna y la evidencia.
Por qué importa
Para los operadores, el problema práctico es que una sola función puede activar varios conjuntos de normas a la vez. Un modelo de recomendación puede afectar a la seguridad infantil, al discurso público y a la transparencia para el consumidor. Un clasificador de moderación automatizada puede plantear cuestiones de libertad de expresión, discriminación y gestión de reclamaciones. Una herramienta de medios sintéticos puede generar riesgos separados de etiquetado, procedencia y fraude, aunque el contenido sea en sí mismo lícito.
Para compradores, asesores y responsables de gobernanza, este es uno de los ámbitos donde la gobernanza de la IA deja de ser abstracta. Los reguladores preguntan cada vez más quién diseñó el sistema, para qué estaba previsto, qué evidencia respalda su precisión, cómo se informa a los usuarios, cómo se revisan las decisiones impugnadas y qué se ha registrado para un escrutinio posterior. Si esas preguntas no pueden responderse, la exposición legal y la fragilidad operativa aumentan al mismo tiempo.
Cómo funciona
Es una capa superpuesta, no una ley única
El punto central es que la IA en plataformas suele regularse mediante una arquitectura por capas. Las normas sobre plataformas e intermediarios regulan cómo los servicios gestionan los contenidos ilegales, las reclamaciones de usuarios, los sistemas de recomendación y los riesgos sistémicos. Las normas específicas de IA añaden obligaciones separadas en materia de divulgación, procedencia, marcado legible por máquina o etiquetado de deepfake. Las normas vigentes sobre privacidad, protección del consumidor, seguridad infantil y medios de comunicación siguen aplicándose igualmente.
Por eso la misma función de IA puede ser lícita en un sentido y, aun así, incumplir en otro. Un modelo de moderación puede estar permitido en principio, pero la plataforma puede incumplir si no ofrece a los usuarios una explicación adecuada, ninguna vía práctica de apelación, registros deficientes, protecciones infantiles débiles o afirmaciones engañosas sobre lo que el sistema puede hacer.
Las plataformas se regulan allí donde la IA cambia la visibilidad, la clasificación o la aplicación de normas
En este ámbito, a los reguladores les preocupa menos si un sistema se presenta como IA y más lo que ese sistema hace con los flujos de información en línea. Los puntos de decisión clave suelen ser: generar contenido, clasificarlo o recomendarlo, detectarlo o categorizarlo, reducir su visibilidad, eliminarlo, bloquear una cuenta o etiquetarlo como sintético o manipulado.
En la Unión Europea, el Reglamento de Servicios Digitales ofrece el ejemplo más claro de este enfoque a nivel de servicio. Ofrece a los usuarios mecanismos para señalar contenidos ilegales, exige motivaciones para las decisiones de moderación, crea vías de reclamación y resolución de disputas, y obliga a las plataformas y motores de búsqueda de muy gran tamaño a evaluar y mitigar los riesgos sistémicos. Esos riesgos incluyen los contenidos ilegales, las amenazas a los derechos fundamentales, los daños a menores, los riesgos electorales y el papel de los sistemas de recomendación en la amplificación de material engañoso. También exige mayor transparencia en la clasificación y, para los servicios más grandes, la opción de desactivar las recomendaciones personalizadas basadas en perfiles. El Reglamento de Servicios Digitales no determina por sí mismo cada categoría de discurso ilegal; en cambio, crea un procedimiento común y una capa de responsabilidad en torno a decisiones fundamentadas en otras leyes de la UE o nacionales.
El Reino Unido adopta un enfoque diferente. La Online Safety Act no es una ley dedicada a la IA, pero alcanza igualmente la moderación y la clasificación basadas en IA porque regula el servicio y los riesgos generados por su diseño y funcionamiento. El marco de Ofcom exige que los servicios incluidos en su ámbito realicen y mantengan actualizadas las evaluaciones de riesgos, conserven registros y sigan los códigos del regulador o adopten otras medidas que alcancen el cumplimiento. Cuando pueden verse afectados menores, los materiales de Ofcom incluyen expresamente los sistemas de recomendación, la moderación de contenidos, la notificación y las reclamaciones, la verificación de edad y la gobernanza. El efecto es tecnológicamente neutro pero operativamente concreto: si la IA cambia lo que ven los menores o la velocidad con que se propaga el material dañino, el servicio debe abordar esa cuestión.
China es más prescriptiva respecto a la propia IA en plataformas. Las normas sobre recomendación algorítmica exigen a los proveedores que asuman la responsabilidad de la seguridad de los algoritmos, que revisen y evalúen sus mecanismos, modelos, datos y resultados de aplicación, que publiquen normas básicas, que ofrezcan a los usuarios mayor control sobre la personalización y que proporcionen vías para modificar o eliminar las etiquetas de usuario. En otras palabras, los sistemas de recomendación se tratan como infraestructura de información directamente gobernable, no como una mera función técnica de fondo.
Los medios sintéticos añaden una capa separada de procedencia y divulgación
Cuando la IA se utiliza para crear o alterar publicaciones, audio, imágenes o vídeo, aparece un segundo conjunto de obligaciones. Estas normas no tratan principalmente de si el contenido permanece o se elimina, sino de si las personas pueden saber qué están viendo, si el material manipulado puede detectarse posteriormente y si las plataformas o los responsables del despliegue pueden rastrear cómo fue producido.
En la UE, el artículo 50 del AI Act añade obligaciones de transparencia para determinados sistemas de IA. A partir del 2 de agosto de 2026, las personas en la UE deberán ser informadas, en casos específicos, de que están interactuando con IA o expuestas a contenido generado o manipulado por IA. El trabajo de la Comisión sobre el artículo 50 explica cuatro categorías principales: sistemas de interacción humana, sistemas que generan o manipulan contenido que debe ser legible por máquina y detectable, sistemas de reconocimiento de emociones o categorización biométrica, y responsables del despliegue que utilizan IA para crear deepfake o determinados textos de interés público. Esto es importante porque una plataforma puede ya cumplir con las normas de procedimiento de plataforma y aun así necesitar una capa separada de divulgación y procedencia en virtud de la legislación sobre IA.
China va más lejos en la capa de servicio. Las medidas de etiquetado que entraron en vigor el 1 de septiembre de 2025 exigen etiquetas explícitas e implícitas para los contenidos generados y sintetizados por IA en los casos cubiertos, y la explicación oficial adjunta deja claro que las obligaciones de etiquetado se extienden a la creación, descarga, exportación y publicación pública posterior. Los usuarios que obtengan material sin una etiqueta visible para un uso privado lícito pueden tener igualmente que declarar la naturaleza sintética de ese material antes de publicarlo. Las plataformas de distribución de aplicaciones también tienen obligaciones de verificación en el momento de la publicación o el lanzamiento. Para los servicios que combinan recomendación con generación, esto significa que la carga de gobernanza sigue al contenido a lo largo de más de una etapa del flujo de trabajo.
Esto importa para las plataformas porque la procedencia se está convirtiendo en un control operativo, no solo en una aspiración de política. Las preguntas relevantes se vuelven prácticas: qué marcador se adjunta, dónde se almacena, quién puede eliminarlo, cómo funciona la detección, cómo se gestionan las señales falsas y cómo responde el servicio cuando un contenido manifiestamente manipulado carece de etiqueta.
Los derechos de expresión y los recursos de los usuarios siguen siendo centrales
La moderación por IA se debate a menudo como una cuestión de seguridad, pero también es una cuestión de gobernanza de la expresión. Los sistemas automatizados pueden eliminar en exceso material lícito, perder el contexto, fallar con lenguas minoritarias o escalar una decisión política errónea a millones de publicaciones. Por ello, la regulación moderna de plataformas combina cada vez más las obligaciones de seguridad con garantías procedimentales.
El Reglamento de Servicios Digitales es explícito sobre este equilibrio. Vincula la eliminación de contenidos ilegales con la protección de los derechos fundamentales de los usuarios, exige declaraciones de motivos y ofrece a los usuarios vías de reclamación y resolución externa de disputas. Ofcom ha señalado igualmente que la moderación de contenidos es central porque afecta a cómo las personas se expresan en línea, y sus códigos dan peso a la notificación, las reclamaciones y la gobernanza, no solo al filtrado automatizado. La lección práctica es que los "mejores modelos" no eliminan la necesidad de responsabilidad humana; la hacen más fácil de comprobar, o más fácil de evidenciar cuando falta.
Las normas técnicas convierten las obligaciones generales en evidencia
La ley indica a las organizaciones lo que pueden necesitar hacer. Las normas técnicas les indican cómo estructurar el trabajo para poder demostrarlo posteriormente. Ahí es donde el Marco de Gestión de Riesgos de IA de NIST y su perfil de IA generativa resultan útiles, aunque sean voluntarios y no constituyan estatutos de plataforma.
Para las plataformas en línea y los equipos de moderación, el material de NIST es especialmente útil en tres ámbitos. En primer lugar, trata la gobernanza como una disciplina continua que abarca el diseño, el despliegue y el seguimiento, en lugar de como un documento de política puntual. En segundo lugar, el perfil de IA generativa aborda directamente la desinformación, el seguimiento de la procedencia, la detección de contenido sintético, la retroalimentación estructurada y las pruebas adversariales. En tercer lugar, anima a las organizaciones a medir la fiabilidad y documentar dónde persisten los límites técnicos, que es exactamente el tipo de evidencia que un consejo de administración, un comprador o un regulador puede solicitar posteriormente.
Un modelo operativo maduro combina, por tanto, el mapeo legal con un rastro de evidencia práctico: inventarios de sistemas, asignación de funciones, registros de pruebas, diseño de etiquetas, registros de apelaciones, registros de anulaciones, control de cambios y revisión periódica.
Ejemplos
Una plataforma de la UE que gestiona un feed personalizado de gran tamaño no solo necesita una política de moderación. Necesita mecanismos para que los usuarios denuncien contenidos ilegales, motivaciones para las decisiones de moderación, una vía para impugnar esas decisiones y, si es una plataforma o motor de búsqueda de muy gran tamaño, una evaluación y mitigación continua de riesgos sistémicos para cuestiones como los contenidos ilegales, los daños a menores, los riesgos electorales y el diseño de los sistemas de recomendación. En los servicios más grandes, los usuarios también deben disponer de mayor control sobre las recomendaciones basadas en perfiles.
Un servicio con sede en China que tanto recomienda contenidos como ofrece generación de voz o rostro mediante IA no puede tratar esas funciones como compartimentos de cumplimiento separados. La capa de recomendación está sujeta a obligaciones de gobernanza, revisión y control por parte del usuario. La capa de medios sintéticos está sujeta a requisitos de etiquetado y procedencia relacionados, incluidas etiquetas explícitas e implícitas en los casos cubiertos y, en determinadas circunstancias, declaraciones posteriores del usuario cuando el material se publica.
Un servicio del Reino Unido al que probablemente accedan menores no puede limitarse a afirmar que la moderación es automatizada y, por tanto, está resuelta. Necesita una evaluación de riesgos actualizada, registros escritos y medidas acordes con el perfil de riesgo del servicio. El marco de Ofcom trata expresamente los sistemas de recomendación, la moderación de contenidos, la notificación y las reclamaciones, la verificación de edad y la gobernanza como controles interconectados, no como líneas de trabajo separadas.
Malentendidos frecuentes
La "regulación de la IA para plataformas" no es solo regulación de deepfake. Las obligaciones sobre deepfake y medios sintéticos son una parte de un régimen más amplio que también abarca la clasificación, la amplificación, el procedimiento de moderación, la seguridad infantil y los recursos de los usuarios.
Si la IA toma la decisión de moderación, la legislación sobre plataformas sigue aplicándose. La cuestión legal es la decisión de la plataforma y sus efectos sobre los usuarios, no si actuó primero una persona o un modelo.
Las plataformas globales más grandes no son las únicas que necesitan gobernanza. Los servicios más grandes suelen enfrentar las obligaciones sistémicas más exigentes, pero los servicios más pequeños o locales también pueden estar sujetos a obligaciones de aviso, conservación de registros, seguridad infantil, transparencia o legislación de consumo.
El etiquetado no hace inofensivo el contenido manipulado. Contribuye a la autenticación y la trazabilidad, pero no sustituye al juicio de moderación, los controles antifraude, la educación de los usuarios ni la revisión de falsos positivos y falsos negativos.
Las normas voluntarias no son irrelevantes por no ser estatutos. En la práctica, ayudan a las organizaciones a generar la base de evidencia que reguladores, consejos de administración y compradores empresariales esperan cada vez más.
Riesgos y límites
Este ámbito tiene límites claros. Por sí solo, no indica cada categoría de discurso ilegal o uso ilícito de medios. En muchos sistemas, la ilegalidad sigue derivando de otras leyes penales, de medios de comunicación, de consumo, de privacidad o electorales. Las normas de plataforma suelen establecer procedimientos, controles y responsabilidad, no una lista universal de contenidos prohibidos.
También es fácil sobreestimar lo que la procedencia y el etiquetado pueden lograr. Los marcadores pueden eliminarse, los metadatos pueden perderse, las herramientas de detección pueden fallar y los usuarios pueden pasar por alto las divulgaciones. Las etiquetas visibles son útiles, pero no sustituyen al contexto, la evidencia y la revisión humana cuando los riesgos son elevados.
Además, existe movimiento regulatorio en curso. En la UE, las obligaciones de transparencia del artículo 50 están previstas para aplicarse a partir del 2 de agosto de 2026, mientras que la orientación de la Comisión y el código de práctica relacionado aún se estaban ultimando en el momento de redactar este texto. En el Reino Unido, el régimen de la Online Safety Act ya está en vigor, pero sigue siendo gradual e iterativo a través de los códigos, actualizaciones y actividad de aplicación de Ofcom. En otras palabras, la arquitectura es estable, pero algunos detalles de aplicación pueden aún cambiar.
Qué hacer a continuación
Comience con un mapa de sistemas, no con un eslogan de política. Enumere cada punto en que su servicio utiliza IA para generar, clasificar, etiquetar, detectar, eliminar, reducir la visibilidad o autenticar contenidos. Luego vincule cada uso al marco legal que activa: aviso al usuario, seguridad infantil, proceso de moderación, transparencia de los sistemas de recomendación, etiquetado de medios sintéticos, conservación de registros o afirmaciones al consumidor.
A continuación, asigne un responsable para cada superficie de control. Alguien debe ser responsable de las pruebas del modelo, alguien de las divulgaciones a los usuarios, alguien de la gestión de reclamaciones, alguien de la procedencia y el diseño de etiquetas, y alguien del registro y la retención. Si esas responsabilidades no están bien definidas, la gobernanza de la IA en plataformas suele fallar en los puntos de traspaso.
Después, construya evidencia, no solo declaraciones de principios. Conserve registros de pruebas, códigos de motivos de moderación, datos de apelaciones, registros de anulaciones, registros de gestión de etiquetas, notas de diseño de procedencia y registros de cambios. Compruebe si los usuarios pueden realmente entender sus avisos e impugnar una decisión incorrecta. Trate a los menores, la información de interés público y el riesgo de suplantación de identidad como contextos de atención prioritaria diferenciada.
Por último, esté atento a las fechas de entrada en vigor y a las orientaciones, especialmente cuando la ley está consolidada pero el detalle operativo aún se está concretando. Para muchas organizaciones, la tarea a corto plazo no es inventar nuevos marcos de control, sino integrar la gobernanza de plataformas, la transparencia de la IA y el trabajo de confianza y seguridad que ya existe de forma fragmentada.
¿Tiene alguna pregunta o sugerencia, o desea saber cómo investigamos y revisamos estas guías? Lea sobre nuestros estándares editoriales y cómo contactarnos.
Preguntas frecuentes
¿Qué se considera IA en la moderación de contenidos a efectos regulatorios?
Por lo general, cualquier sistema de IA que contribuya a generar, clasificar, detectar, categorizar, etiquetar, suprimir, eliminar o autenticar contenidos en línea. El desencadenante legal suele ser la función que el sistema realiza en el servicio, no la etiqueta de producto del proveedor.
¿Es lo mismo que la regulación de deepfake?
No. Las obligaciones sobre deepfake y medios sintéticos se refieren principalmente al contenido manipulado o generado y a su divulgación. La regulación de la IA en plataformas también abarca los sistemas de recomendación, las reclamaciones de usuarios, el riesgo sistémico, la seguridad infantil, los informes de transparencia y el procedimiento de aplicación.
¿Decide el Reglamento de Servicios Digitales de la UE qué discurso es ilegal?
No. Crea un marco a escala de la UE para señalar, explicar e impugnar las decisiones sobre contenidos, y para gestionar el riesgo sistémico en los servicios de muy gran tamaño. La definición subyacente de contenido ilegal sigue derivando de otras leyes de la UE o nacionales.
¿Necesitan todas las imágenes o vídeos generados por IA el mismo tipo de etiqueta en todas partes?
No. La respuesta depende de la jurisdicción y del caso de uso. El AI Act de la UE se centra en obligaciones de transparencia específicas, incluido el marcado legible por máquina y la divulgación en determinados contextos. El régimen de China es más prescriptivo en cuanto al etiquetado explícito e implícito en los escenarios cubiertos.
Si adquiero una herramienta de moderación o de medios sintéticos de un tercero, ¿quedo fuera del ámbito de aplicación?
Por lo general, no. Adquirir la herramienta puede cambiar quién tiene qué obligación, pero no elimina las responsabilidades del operador del servicio. Los responsables del despliegue pueden seguir teniendo obligaciones de aviso, reclamación, seguridad infantil, etiquetado o gobernanza.
¿Está prohibida la moderación totalmente automatizada?
No como norma general. Pero una dependencia excesiva de la automatización puede generar riesgos legales y de gobernanza si el servicio no puede explicar las decisiones, ofrecer vías de revisión significativas, conservar registros o controlar las tasas de error en contextos sensibles.
¿Es obligatorio el Marco de Gestión de Riesgos de IA de NIST para los operadores de plataformas?
No. Es voluntario. Pero resulta útil porque ofrece a las organizaciones una forma estructurada de gobernar, medir y documentar los riesgos relacionados con la procedencia, la desinformación, las pruebas y el seguimiento.
¿Qué sigue sin resolverse?
La dirección general es clara, pero algunos detalles operativos aún están en movimiento. La orientación de la UE sobre el artículo 50 y el código de transparencia aún se estaban completando antes de la fecha de aplicación del 2 de agosto de 2026, y el régimen de la Online Safety Act del Reino Unido sigue desarrollándose a través de la orientación y la aplicación de Ofcom.