¿Qué es una práctica de IA prohibida?
AI regulation: concepts, institutions and standards
Una práctica de IA prohibida es un uso de la IA que el EU AI Act veta de forma absoluta porque el riesgo se considera inaceptable, no simplemente manejable. Esto es distinto de la IA de alto riesgo, que puede seguir utilizándose si se cumplen controles estrictos. Si una práctica cae en la categoría de prohibida, la pregunta fundamental no es cómo cumplir mejor, sino si el sistema debe comercializarse, ponerse en servicio o utilizarse en absoluto para ese fin.
Revisado por Jackie, Head of Learning & Development, Levellers · Última revisión: 8 de junio de 2026
Qué significa esto
El modelo mental más claro es el de un semáforo. La IA de alto riesgo es una luz amarilla: se puede avanzar, pero solo con controles sólidos y cautela. La IA prohibida es una luz roja. Señala prácticas que la ley considera fundamentalmente incompatibles con el nivel de protección que pretende garantizar.
Esa distinción importa porque el AI Act no se limita a clasificar tecnologías de menor a mayor riesgo. Juzga ciertas prácticas por cómo interfieren con la dignidad humana, la autonomía, la seguridad o los derechos fundamentales. Algunos usos se consideran demasiado manipuladores, demasiado intrusivos, demasiado abusivos o demasiado difíciles de conciliar con derechos esenciales.
La categoría se refiere a prácticas, no solo a productos. La pregunta no es únicamente "¿qué herramienta es esta?", sino también "¿para qué se está usando?". Un modelo de imágenes de uso general, por ejemplo, puede ser lícito en muchos contextos e ilícito en uno prohibido. Una capacidad biométrica puede estar permitida en un entorno y prohibida en otro. Por eso los equipos de producto deben revisar el uso previsto y el uso indebido previsible, no solo las etiquetas del software.
Para los líderes, este es uno de los términos más importantes del AI Act porque actúa como filtro de diseño y de salida al mercado. Si el uso previsto cae dentro de una prohibición, no se avanza con él bajo el supuesto de que más documentos de política resolverán el problema.
Por qué importa
Este término importa porque las prácticas prohibidas generan las señales de alerta más claras en la gobernanza de la IA. Son los tipos de usos que los consejos de administración, los inversores, los reguladores, la sociedad civil y los tribunales tienen menos probabilidades de tratar como experimentación inocente.
También importa porque los equipos suelen cometer errores al pensar únicamente en categorías técnicas. Se preguntan si un modelo es de uso general, si una herramienta es precisa o si existe un filtro de instrucciones. Son preguntas válidas, pero no son la primera pregunta correcta si el caso de uso en sí puede estar prohibido.
El efecto práctico en los negocios es el filtrado en etapas tempranas. Una revisión adecuada de prácticas prohibidas puede ahorrar meses de trabajo de producto desperdiciado, esfuerzo contractual y daño reputacional. También puede evitar que los líderes aprueben funcionalidades que generen un riesgo inmediato de escalada con reguladores, clientes, empleados o el público.
A mediados de 2026, esta área es especialmente relevante porque la lista de prohibiciones ya ha comenzado a evolucionar. El propio AI Act exigía revisiones periódicas, y el acuerdo de compromiso del Ómnibus Digital de 2026 añadió una nueva prohibición específica sobre la IA que genera material íntimo no consensuado o material de abuso sexual infantil, con una exención de tipo puerto seguro limitada para los proveedores que incorporen salvaguardias preventivas eficaces. Eso demuestra que la categoría está viva, no congelada.
Cómo funciona
La lista base se encuentra en el artículo 5 del AI Act. Prohíbe un conjunto definido de prácticas de IA consideradas inaceptables. Entre ellas se incluye la IA que utiliza técnicas subliminales, manipuladoras o engañosas de un modo que distorsiona materialmente el comportamiento y causa, o es razonablemente probable que cause, un daño significativo. También incluye la IA que explota vulnerabilidades vinculadas a la edad, la discapacidad o una situación social o económica específica de manera igualmente perjudicial.
El AI Act también prohíbe los sistemas de puntuación social que evalúan o clasifican a las personas a lo largo del tiempo en función de su comportamiento social o de características personales previstas, cuando ello conduce a un trato perjudicial no relacionado o desproporcionado. El objetivo aquí no es el análisis de datos ordinario, sino la puntuación impulsada por IA que modifica el trato que reciben las personas de formas que la ley considera fundamentalmente injustas.
Otra categoría prohibida es la IA utilizada para evaluar o predecir el riesgo de que una persona cometa un delito basándose únicamente en la elaboración de perfiles o en rasgos de personalidad. Existe una excepción limitada para las herramientas que apoyan una evaluación humana ya fundamentada en hechos objetivos y verificables directamente vinculados a la actividad delictiva. La línea que traza el AI Act separa el apoyo basado en evidencias de la predicción especulativa basada en la personalidad.
El AI Act también prohíbe los sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la recopilación masiva e indiscriminada de imágenes faciales de internet o de grabaciones de circuito cerrado de televisión. Prohíbe los sistemas de reconocimiento de emociones en entornos laborales y educativos, salvo por razones médicas o de seguridad. Prohíbe los sistemas de categorización biométrica que infieren atributos sensibles como raza, opiniones políticas, religión, afiliación sindical, vida sexual u orientación sexual a partir de datos biométricos, con algunas exenciones limitadas.
Una de las prohibiciones políticamente más sensibles se refiere a la identificación biométrica remota "en tiempo real" en espacios de acceso público con fines de aplicación de la ley. En general está prohibida, pero el AI Act permite excepciones estrictas cuando el uso es estrictamente necesario para objetivos muy específicos, como la búsqueda de víctimas concretas, la prevención de una amenaza inminente o la localización e identificación de sospechosos por una lista restringida de delitos graves, y solo con autorización previa y salvaguardias detalladas. Así que, aunque a menudo se describe como una prohibición total, la ley es más precisa: es una prohibición con excepciones estrictamente delimitadas.
La lección práctica clave es que hay que leer tanto la prohibición principal como las condiciones exactas que la rodean. Exagerar la prohibición genera confusión. Minimizarla crea un riesgo real.
El trabajo de modificación de 2026 es especialmente relevante aquí. En el acuerdo político provisional del 7 de mayo de 2026, los colegisladores añadieron una nueva disposición para prohibir las prácticas de IA relacionadas con la generación de contenido sexual o íntimo no consensuado y material de abuso sexual infantil. El texto de compromiso detallado es cuidadoso en cuanto al alcance. Abarca los sistemas destinados a generar o manipular dicho material, así como los sistemas en los que dicha generación es un resultado razonablemente previsible y reproducible sin modificación técnica significativa y en los que no existen medidas técnicas de seguridad razonables y adecuadas ni otras salvaguardias.
Esto importa porque la nueva prohibición no está formulada como una prohibición de toda capacidad generativa. Está formulada en torno al propósito prohibido y al uso indebido razonablemente previsible sin salvaguardias adecuadas. El texto de compromiso ofrece ejemplos de los tipos de medidas preventivas esperadas, como la limpieza de datos, el entrenamiento de rechazo, el diseño seguro de instrucciones, los controles de salida, el filtrado y los mecanismos para responder al uso indebido observado o denunciado. Por eso algunos comentaristas describen esto como una estructura de tipo puerto seguro para los proveedores con salvaguardias eficaces.
El lado del desplegador es más limitado de lo que muchos suponen. Según el texto de compromiso, el uso está prohibido cuando el desplegador utiliza el sistema con el propósito de generar o manipular material íntimo no consensuado o material de abuso sexual infantil. Los usos lícitos de sistemas más amplios para otros fines no quedan automáticamente prohibidos por el mero hecho de que el uso indebido sea posible. Esa es una matización importante para las empresas que utilizan herramientas generales de imagen, audio o vídeo para trabajo legítimo.
El mismo texto también limita la prohibición de material íntimo no consensuado a representaciones realistas de partes íntimas o actividad sexualmente explícita de personas físicas identificables sin el consentimiento libre, específico, informado, inequívoco y explícito de esa persona. Excluye cierto contenido no realista o no identificable y preserva determinados usos médicos. De nuevo, la clave es que la ley establece una prohibición específica, no una prohibición de todos los medios sintéticos.
El calendario vuelve a ser importante. Las prácticas prohibidas originales del artículo 5 son aplicables desde el 2 de febrero de 2025. Las nuevas prohibiciones de 2026 forman parte de un acuerdo de modificación provisional y serían aplicables a partir del 2 de diciembre de 2026 si se adoptan formalmente. Hasta su adopción y publicación, aún no forman parte del texto operativo del AI Act. Pero cualquier líder que trabaje con generación de imágenes, audio o vídeo debería planificar ya como si esta dirección fuera una realidad.
El punto estratégico es sencillo. La revisión de prácticas prohibidas debe realizarse en la fase de concepto. Si el equipo está desarrollando funcionalidades de biometría sensible, modelado del comportamiento, lógica de predicción policial o generación de imágenes que podrían orientarse hacia material íntimo no consensuado, no conviene descubrir la prohibición una vez terminada la preparación del lanzamiento.
Ejemplos
Un equipo de producto propone una función de "desnudificación" que puede convertir una imagen ordinaria de una persona identificable en imágenes íntimas explícitas sin consentimiento verificado. Ese es exactamente el tipo de uso al que apunta la modificación de 2026, y debe tratarse como una señal de stop, no como una discusión de funcionalidad.
Un proveedor de analítica laboral ofrece una herramienta de reconocimiento de emociones que afirma detectar frustración, motivación o desconexión en los rostros de los empleados durante las reuniones. En el entorno laboral, eso es una señal de alerta directa bajo las normas de prácticas prohibidas, a menos que se encuadre en el razonamiento médico o de seguridad muy limitado.
Una empresa propone recopilar imágenes de redes sociales públicas y grabaciones de circuito cerrado de televisión para construir una gran base de datos facial destinada al entrenamiento de reconocimiento posterior. Eso no es solo una preocupación de privacidad: está expresamente prohibido por las normas del AI Act sobre la recopilación masiva e indiscriminada para bases de datos de reconocimiento facial.
Una autoridad pública o un arrendador explora un sistema de tipo puntuación social que combina historial de pagos, datos del vecindario, señales de conducta y marcadores de comportamiento vagos en una puntuación de confiabilidad que afecta al acceso a servicios. Esa es la clase de lógica de clasificación que distorsiona derechos que la prohibición de puntuación social pretende detener.
Un equipo de seguridad considera un proyecto de identificación facial en tiempo real en un espacio público y asume que cualquier uso policial está prohibido en todos los casos. La respuesta real es más precisa. La ley trata esto como prohibido en principio, pero permite excepciones estrictas con necesidad estricta, autorización y salvaguardias.
Malentendidos frecuentes
El primer malentendido es que toda IA biométrica está prohibida. No es así. Algunos usos biométricos están prohibidos, otros son de alto riesgo y otros pueden ser lícitos bajo otros marcos normativos. Los líderes deben clasificar el uso concreto, no el campo en su totalidad.
El segundo malentendido es que una práctica prohibida puede convertirse en un producto normal redactando una política más sólida. Eso no capta la esencia del problema. Si la práctica en sí está prohibida, el papeleo no la rescata.
El tercer malentendido es que las prácticas prohibidas se definen únicamente por la intención del proveedor. En realidad, el texto de compromiso de 2026 sobre material íntimo y material de abuso sexual infantil también tiene en cuenta el uso indebido razonablemente previsible y reproducible, y si existen salvaguardias razonables.
El cuarto malentendido es que "práctica de IA" se refiere únicamente al modelo subyacente. No es así. La ley se ocupa con frecuencia de la comercialización, la puesta en servicio o el uso de un sistema para un fin determinado. El propósito y el contexto de despliegue importan.
El quinto malentendido es que, dado que la lista de prohibiciones es más limitada de lo que implica cierto lenguaje de campaña, resulta de algún modo poco importante. Ocurre lo contrario. Estas son las líneas rojas más nítidas del régimen, y es probable que atraigan un escrutinio desproporcionado.
El sexto malentendido es que las incorporaciones de 2026 ya están plenamente en vigor. Aún no son derecho operativo hasta su adopción y publicación formales. Pero están suficientemente avanzadas como para que las empresas responsables no las ignoren.
Riesgos y límites
El principal límite de riesgo es este: una capacidad general puede deslizarse hacia una práctica prohibida si las decisiones de diseño, la configuración predeterminada, los flujos de usuario o las salvaguardias débiles hacen que el uso abusivo sea razonablemente previsible. Por eso la seguridad del producto y la prevención del abuso no pueden tratarse como equipos separados que trabajan de forma aislada.
También existe un límite entre las prácticas prohibidas y otros actos ilegales. Algunos comportamientos pueden ser ilícitos en virtud del derecho penal, la legislación sobre privacidad, el derecho del consumidor o las normas de las plataformas, aunque no estén expresamente mencionados en el artículo 5. La lista de prohibiciones es importante, pero no es el único filtro legal.
Para los líderes, una verdad difícil es que "somos solo un proveedor de herramientas" rara vez es una defensa satisfactoria si el propósito abusivo es evidente y la ausencia de salvaguardias es difícil de justificar. El texto de compromiso de 2026 lo deja aún más claro para ciertos riesgos de contenido sexual sintético.
Al mismo tiempo, las empresas deben evitar clasificaciones precipitadas. No toda función generativa de imagen o audio está prohibida. No toda función biométrica está prohibida. Se necesita una revisión cuidadosa de los casos de uso, no titulares. Este artículo es información general y no constituye asesoramiento jurídico.
Qué hacer a continuación
En primer lugar, crear un filtro de prácticas prohibidas para la ideación, la contratación y la revisión de proveedores. Que sea breve y decisivo. Preguntar si el uso toca la manipulación, la explotación de vulnerabilidades, la puntuación social, la predicción policial basada únicamente en perfiles, la biometría prohibida o los riesgos de abuso íntimo sintético.
En segundo lugar, revisar ahora las herramientas de generación de imágenes, audio y vídeo. Si la organización ofrece o integra esas capacidades, verificar qué salvaguardias preventivas existen, cómo se gestiona el uso indebido, qué restricciones predeterminadas se aplican y cómo las reclamaciones pueden activar correcciones o suspensiones.
En tercer lugar, no dejar esto solo en manos de los equipos jurídicos. Los gestores de producto, los ingenieros, los responsables de contratación, los equipos de confianza y seguridad, los responsables de privacidad y los patrocinadores de alto nivel necesitan un vocabulario compartido sobre prácticas prohibidas.
En cuarto lugar, eliminar los casos de uso claramente marcados como señales de alerta en una etapa temprana. La práctica prohibida más barata es la que se detiene en la fase de concepto, antes del compromiso con la hoja de ruta, la negociación contractual y la planificación del lanzamiento.
En quinto lugar, reforzar las preguntas a los proveedores. Preguntar cómo clasifica el proveedor el uso en virtud del artículo 5, qué uso indebido considera razonablemente previsible, qué salvaguardias ha implementado y cómo gestiona los informes, la elusión y las tendencias de abuso.
En sexto lugar, hacer seguimiento de la adopción formal de las modificaciones del Ómnibus 2026. Hasta su publicación, sigue existiendo una brecha entre el acuerdo político y el derecho operativo. La gobernanza debe reflejar tanto el texto actual como la dirección a corto plazo.
En séptimo lugar, mantener clara la distinción entre prohibido y de alto riesgo en los documentos internos. Los equipos toman mejores decisiones cuando saben si están ante una línea roja o un caso de uso controlado.
¿Tiene alguna pregunta o sugerencia, o desea saber cómo investigamos y revisamos estas guías? Lea sobre nuestros estándares editoriales y cómo contactarnos.
Preguntas frecuentes
¿Es una práctica de IA prohibida lo mismo que la IA de alto riesgo?
No. La IA de alto riesgo puede seguir utilizándose si se cumplen requisitos estrictos. Una práctica de IA prohibida está vetada de forma absoluta para ese fin, sujeta únicamente a las excepciones estrictas que recoge la ley.
¿Están prohibidas todas las herramientas de reconocimiento de emociones?
No. El AI Act prohíbe específicamente el reconocimiento de emociones en entornos laborales e instituciones educativas, salvo por razones médicas o de seguridad.
¿Está completamente prohibido el reconocimiento facial en tiempo real en espacios públicos?
No completamente. El AI Act lo prohíbe en principio para la aplicación de la ley, pero permite excepciones estrictas con necesidad estricta, autorización previa y salvaguardias detalladas.
¿Se aplican ya las normas de 2026 sobre material íntimo no consensuado?
Aún no como derecho operativo. A 2 de junio de 2026, forman parte de un acuerdo político provisional y solo entrarán en vigor tras su adopción y publicación formales.
¿Puede seguir siendo lícito un modelo de imágenes de uso general?
Sí. La cuestión no es simplemente que el modelo pueda generar imágenes. La cuestión es si se comercializa o utiliza para un fin prohibido, o si se diseña sin salvaguardias razonables cuando el uso abusivo es previsible.
¿Cuál es el error de liderazgo que hay que evitar?
Tratar la revisión de prácticas prohibidas como una verificación jurídica tardía. Debe realizarse en la fase de concepto, diseño, contratación y revisión de proveedores.
Sources
Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (EUR-Lex). Primary source for Article 5's original prohibited AI practices, the law enforcement biometric exception structure, and the date from which the original prohibitions applied.
Commission publishes the Guidelines on prohibited artificial intelligence (AI) practices, as defined by the AI Act (European Commission). Primary source for the Commission's interpretation and practical explanation of Article 5 prohibitions.
Report on the review of prohibitions and high-risk AI (European Commission). Primary source for the Commission's 2026 review, including the identification of a regulatory gap around non-consensual intimate content and child sexual abuse material and the link to the Omnibus agreement.
Artificial Intelligence: Council and Parliament agree to simplify and streamline rules (Council of the European Union). Primary source for the 7 May 2026 provisional agreement adding a new prohibited practice for non-consensual sexual and intimate content and child sexual abuse material.
ST 9247/26 Digital Omnibus on AI compromise text (Council of the European Union). Primary source for the exact proposed text on new Article 5 points, the scope tests, the safeguard condition, deployer purpose test, and the proposed 2 December 2026 application date for the new prohibitions.
Digital Omnibus on AI, Legislative Train Schedule (European Parliament). Secondary source confirming the political agreement, the new prohibited practice, and the broader legislative state of play.