¿Qué es un sistema de IA de alto riesgo?

Cómo funciona

La primera vía hacia la condición de alto riesgo es la vía de seguridad de productos del artículo 6(1). Un sistema de IA es de alto riesgo si está destinado a utilizarse como componente de seguridad de un producto, o es en sí mismo dicho producto, y ese producto está sujeto a la legislación sectorial de la UE enumerada en el Anexo I y requiere una evaluación de la conformidad por terceros. En términos sencillos, esto abarca la IA integrada en determinados productos regulados en los que la seguridad ya está estrictamente supervisada.

La segunda vía es la de los casos de uso autónomos del artículo 6(2) y el Anexo III. Aquí es donde aparecen muchos ejemplos del sector de oficinas y servicios. El Anexo III incluye la identificación biométrica remota, algunos usos en infraestructuras críticas, sistemas de admisión y evaluación educativa, sistemas de selección y gestión de trabajadores, sistemas que afectan al acceso a servicios esenciales como el crédito, los seguros, la sanidad y las prestaciones públicas, y algunos usos en la aplicación de la ley, la gestión de fronteras y la justicia.

Una herramienta de cribado de candidatos es un ejemplo más claro de alto riesgo que un chatbot de oficina de uso general. También lo es un sistema de IA que clasifica candidatos a un puesto de trabajo, asigna tareas en función del comportamiento, puntúa la solvencia crediticia de una persona, contribuye a decidir la admisión en un centro educativo o influye en la respuesta ante catástrofes en infraestructuras críticas. La lógica jurídica es que estos son contextos en los que la IA puede determinar de forma significativa las oportunidades vitales, la seguridad o los derechos de una persona.

Existe, no obstante, una regla de calificación restringida que los responsables deben conocer. Algunos sistemas del Anexo III no deben tratarse como de alto riesgo si no presentan un riesgo significativo de daño y no influyen de forma sustancial en la toma de decisiones. La norma ofrece ejemplos como tareas procedimentales de alcance limitado, herramientas que mejoran el resultado de una actividad humana ya completada, o herramientas de detección de patrones que no sustituyen ni condicionan la evaluación humana previa sin una revisión humana adecuada. No se trata de una vía de escape amplia, sino de una excepción limitada que requiere un razonamiento y una documentación cuidadosos.

Si un sistema es de alto riesgo, el proveedor debe cumplir un conjunto estructurado de requisitos del Capítulo III. Entre ellos figuran un sistema de gestión de riesgos a lo largo de todo el ciclo de vida, una gobernanza de datos adecuada para los datos de entrenamiento, validación y prueba, documentación técnica, mantenimiento de registros y registro de actividad, instrucciones de uso claras, medidas de supervisión humana y niveles apropiados de exactitud, robustez y ciberseguridad.

Estas obligaciones no son abstractas. La gestión de riesgos debe ser continua e iterativa, no un memorando puntual. La gobernanza de datos implica conjuntos de datos representativos y pertinentes en la mayor medida posible, incluidas medidas para detectar y mitigar sesgos cuando proceda. La supervisión humana significa que el sistema debe diseñarse de modo que las personas físicas puedan supervisar eficazmente su funcionamiento y evitar una dependencia excesiva. La exactitud y la robustez no son afirmaciones de marketing; son requisitos del ciclo de vida que deben mantenerse.

El proveedor también necesita una estructura organizativa en torno al sistema. Eso incluye un sistema de gestión de la calidad, la evaluación de la conformidad pertinente, una declaración de conformidad de la UE y el seguimiento poscomercialización. Si se producen incidentes graves, se aplican obligaciones de notificación. En resumen, una vez que un sistema es de alto riesgo, se espera que el proveedor lo gestione como un producto regulado, no como una funcionalidad de software sin mayor trascendencia.

Los responsables del despliegue tienen sus propias obligaciones. Deben utilizar los sistemas de alto riesgo conforme a las instrucciones, garantizar que el personal pertinente esté suficientemente formado, mantener registros cuando los controlen, supervisar el funcionamiento e informar a los proveedores o autoridades sobre incidentes graves. En algunos casos, los responsables del despliegue también deben realizar una evaluación de impacto sobre los derechos fundamentales antes del primer uso. Esto es especialmente relevante para los organismos públicos y las entidades privadas que prestan servicios públicos en ámbitos sensibles.

Esto importa porque las empresas suelen asumir que adquirir un producto de un proveedor transfiere toda la responsabilidad a este. No es así. Proveedores, importadores, distribuidores y responsables del despliegue tienen cada uno sus funciones. Un proveedor puede asumir la carga de la conformidad, pero el responsable del despliegue sigue teniendo que utilizar el sistema de forma responsable en su propio contexto.

El calendario es uno de los aspectos más complejos a fecha de 2 de junio de 2026. El AI Act en vigor establece que la fecha general de aplicación es el 2 de agosto de 2026, con la vía de productos del artículo 6(1) aplicándose más tarde, a partir del 2 de agosto de 2027. Sin embargo, en mayo de 2026, el Consejo y el Parlamento alcanzaron un acuerdo político provisional en el marco del Ómnibus Digital que retrasaría aún más las normas de alto riesgo: hasta el 2 de diciembre de 2027 para los sistemas autónomos del Anexo III y hasta el 2 de agosto de 2028 para los sistemas relacionados con productos del Anexo I. Esas fechas revisadas no son aún derecho vigente hasta su adopción formal y publicación. Por tanto, la lectura prudente es que el panorama legal está en movimiento, pero aún no está definitivamente cerrado.

Desde el punto de vista operativo, esto significa que los responsables no deben detener toda preparación simplemente porque las fechas puedan cambiar. El mapeo de sistemas, la revisión de contratos, el diseño de la gobernanza y la diligencia con proveedores siguen requiriendo tiempo. El margen adicional, si se confirma, ayuda, pero no es razón para esperar al último momento.

Un último punto que suele pasarse por alto: la clasificación de alto riesgo no es un juicio de que el sistema deba fallar o no deba utilizarse nunca. Es el mecanismo de la norma para decir: "Este uso puede ser legítimo, pero solo con controles más estrictos". Eso es muy diferente de las prácticas prohibidas, que son líneas rojas y no usos gestionados.