¿Qué es la Recomendación de UNESCO sobre la Ética de la IA?
Regulación de la IA: conceptos, instituciones y normas
La Recomendación de UNESCO sobre la Ética de la IA es un estándar global no vinculante, adoptado por UNESCO en noviembre de 2021, que establece cómo los países deben gobernar la IA en consonancia con los derechos humanos, la dignidad humana, la equidad, la transparencia, la supervisión humana y la sostenibilidad ambiental. No es un tratado ni una ley directamente exigible. Es, en cambio, una referencia de gobernanza de alta autoridad que los estados miembros utilizan para orientar la legislación, las políticas, la contratación pública, la supervisión y la evaluación de impacto a lo largo del ciclo de vida de la IA.
Revisado por Jackie, Head of Learning & Development, Levellers - Última revisión: 8 de junio de 2026
Qué significa esto
La Recomendación de UNESCO sobre la Ética de la IA es el principal marco global de UNESCO para la gobernanza de la IA ética. Indica a los estados miembros qué valores, principios y medidas de política deben aplicar al redactar normas sobre IA o al decidir cómo adquirir, desplegar y supervisar sistemas de IA.
Es importante distinguirla de un tratado o de una ley nacional sobre IA. Una recomendación de UNESCO no es vinculante en virtud del derecho internacional y no requiere ratificación. Su función es orientar el derecho y la práctica nacionales, no sustituirlos.
Lo que hace especialmente útil a este instrumento es que va más allá del lenguaje ético genérico. UNESCO lo concibió como una referencia práctica de gobernanza, con áreas de acción política e instrumentos de implementación como la Metodología de Evaluación de Preparación para los países y la Evaluación de Impacto Ético para proyectos y contrataciones específicas de IA.
Por qué es importante
Esta Recomendación es importante porque ofrece a las organizaciones una línea de base global creíble para la gobernanza de la IA, especialmente cuando el panorama jurídico está fragmentado entre países y sectores. Es una de las referencias internacionales más claras para cuestiones que hoy surgen en el trabajo real de gobernanza: quién es responsable, dónde se necesita supervisión humana, cómo deben examinarse los riesgos de sesgo y privacidad, qué tipo de documentación y derechos de revisión se esperan, y cuándo el uso de la IA puede ser inapropiado.
Para fundadores, operadores, asesores, compradores y responsables de políticas, resulta útil porque traduce las preocupaciones éticas en mecanismos de gobernanza. Va más allá de los eslóganes sobre la "IA responsable" y apunta hacia la evaluación de impacto, la auditabilidad, la trazabilidad, la transparencia, la reparación, la gobernanza de datos y la supervisión institucional. Esto es directamente relevante para las listas de verificación de contratación, los informes a los consejos de administración, la diligencia debida con proveedores, los controles internos y el despliegue en el sector público.
También importa porque los estados ya la utilizan como punto de referencia. En la práctica, eso significa que la Recomendación puede influir en las estrategias nacionales de IA, las directrices éticas, el diseño de la supervisión y las revisiones de preparación de los países, incluso donde todavía no existe una ley específica sobre IA. Si su organización trabaja en entornos sensibles a los derechos, como salud, educación, empleo, bienestar, medios de comunicación o aplicación de la ley, su enfoque es especialmente pertinente.
Cómo funciona
Estatus jurídico y adopción
La Recomendación fue adoptada por la Conferencia General de UNESCO el 23 de noviembre de 2021, por aclamación. Su forma jurídica es relevante. En el sistema normativo de UNESCO, una recomendación no es vinculante en virtud del derecho internacional, no está sujeta a ratificación y no funciona como un tratado. Pero tampoco es meramente simbólica. Las recomendaciones de UNESCO están destinadas a influir en las leyes y prácticas nacionales; se espera que los estados miembros las sometan a sus autoridades competentes en el plazo de un año para que adopten las medidas oportunas, y los estados miembros también informan periódicamente a UNESCO sobre las acciones realizadas.
Esto convierte a la Recomendación en un ejemplo clásico de derecho indicativo con autoridad. No multa directamente a las organizaciones, no crea un régimen global de licencias ni desplaza la legislación nacional. Lo que sí hace es establecer una referencia normativa común que los estados pueden traducir en legislación, regulación, normas de contratación, orientaciones de supervisión y reformas institucionales.
Qué abarca realmente la Recomendación
UNESCO evita deliberadamente encuadrar la IA en una definición técnica estrecha. En su lugar, trata los sistemas de IA de forma amplia: sistemas que procesan datos e información de maneras que se asemejan al comportamiento inteligente, incluyendo habitualmente el razonamiento, el aprendizaje, la percepción, la predicción, la planificación o el control. Esta elección de redacción es importante porque hace que la Recomendación sea duradera ante los cambios tecnológicos, en lugar de vincularla a una generación de modelos o a una arquitectura concreta.
También adopta una visión del ciclo de vida completo. El texto abarca la investigación, el diseño, el desarrollo, el despliegue, el uso, el mantenimiento, la operación, la financiación, el seguimiento, la validación y el fin de uso. Se aplica a los "actores de IA" a lo largo de ese ciclo de vida, que pueden incluir autoridades públicas, empresas, universidades, investigadores, ingenieros, contratantes y desplegadores. En otras palabras, no se refiere únicamente a quienes construyen modelos ni únicamente a la IA generativa.
La Recomendación se dirige en primer lugar a los estados miembros, tanto en su calidad de reguladores como de usuarios de IA. Pero también orienta a los actores públicos y privados de forma más amplia, incluso proporcionando la base para la evaluación de impacto ético a lo largo del ciclo de vida de los sistemas de IA.
La base de valores y los principios fundamentales
En su fundamento, la Recomendación se asienta sobre cuatro valores: los derechos humanos y la dignidad humana; vivir en sociedades pacíficas, justas e interconectadas; la diversidad y la inclusión; y el florecimiento del medio ambiente y los ecosistemas. Esta base de valores es lo que distingue el enfoque de UNESCO de los enfoques más estrechos centrados únicamente en la innovación o la productividad en la gobernanza de la IA.
Esos valores se traducen luego en diez principios. En términos prácticos, los más importantes son: proporcionalidad y no causar daño; seguridad y protección; privacidad y protección de datos; gobernanza multisectorial y adaptativa; responsabilidad y rendición de cuentas; transparencia y explicabilidad; supervisión y determinación humanas; sostenibilidad; concienciación y alfabetización; y equidad y no discriminación.
Varias disposiciones son inusualmente concretas para un instrumento internacional de ética. El texto establece que la IA no debe utilizarse para la puntuación social ni para la vigilancia masiva. Señala que, cuando las decisiones son irreversibles, difíciles de revertir o implican cuestiones de vida o muerte, debe aplicarse la determinación humana final. Indica que las personas deben ser informadas cuando la IA interviene en decisiones que afectan a sus derechos y libertades, y deben poder solicitar explicaciones, revisión y corrección. También establece que la responsabilidad y la rendición de cuentas deben recaer en personas físicas o jurídicas, no en los propios sistemas de IA.
Cómo los principios se convierten en medidas de gobernanza
El punto más fuerte de la Recomendación es que pasa de los principios a áreas de acción política concretas. Establece once de ellas: evaluación de impacto ético; gobernanza ética y administración responsable; política de datos; desarrollo y cooperación internacional; medio ambiente y ecosistemas; género; cultura; educación e investigación; comunicación e información; economía y trabajo; y salud y bienestar social.
Esta estructura es importante porque obliga a que la gobernanza de la IA sea más amplia que el rendimiento de los modelos y las verificaciones de sesgo. Por ejemplo, en materia de política de datos, exige estrategias de gobernanza de datos, salvaguardias de privacidad, derechos sobre los datos personales, un tratamiento más riguroso de los datos sensibles, medidas de datos abiertos cuando proceda y atención a la calidad de los conjuntos de datos. En materia de medio ambiente, insta a los estados y las empresas a evaluar la huella de carbono, el consumo energético y el impacto en materias primas a lo largo del ciclo de vida de la IA, y a favorecer métodos más eficientes en el uso de recursos cuando sea posible. En materia de comunicación e información, vincula la gobernanza de la IA con la libertad de expresión, el acceso a la información, la transparencia de las plataformas y los mecanismos de apelación sobre el tratamiento de contenidos. En materia de economía y trabajo, espera que se evalúen los efectos en el mercado laboral y que se prepare a la sociedad mediante políticas de educación y competencias.
La Recomendación también deja claro que la gobernanza debe incluir la anticipación, el seguimiento, la aplicación y la reparación. Insta a los estados a investigar y remediar los daños causados por sistemas de IA, y a establecer mecanismos de aplicación y reparación tanto en entornos públicos como privados. Este es un punto clave: UNESCO no solo pide alineación con valores, sino capacidad institucional para detectar el daño, responder a él y asignar responsabilidades.
Herramientas operativas y ruta de implementación
UNESCO ha construido una ruta de implementación en torno a la Recomendación. A nivel nacional, el principal instrumento es la Metodología de Evaluación de Preparación, o RAM por sus siglas en inglés. Se trata de un diagnóstico a nivel de país para comprender en qué medida un estado está preparado para gobernar la IA de forma ética y responsable. Los materiales de implementación actuales de UNESCO describen la RAM como abarcando cinco dimensiones: jurídica; social y cultural; científica y educativa; económica; y técnica e infraestructural. Está diseñada para identificar brechas institucionales y regulatorias y ayudar a los gobiernos a diseñar reformas adaptadas a su contexto.
El metaanálisis de UNESCO de 2025 indica que la RAM se había implementado en más de 70 países desde 2023, y que 46 países habían presentado informes RAM antes de julio de 2025. Esto es relevante porque demuestra que la Recomendación se utiliza como referencia práctica de gobernanza, no solo como declaración de aspiraciones.
A nivel de proyecto, el principal instrumento de UNESCO es la Evaluación de Impacto Ético, o EIA. Está destinada a equipos de política, organismos públicos, compradores, desplegadores y otras partes interesadas que evalúan un sistema de IA concreto. UNESCO la sitúa para un uso temprano en el diseño del proyecto, la contratación y el despliegue inicial. Su estructura es deliberadamente práctica: delimitar el proyecto, comprobar la alineación con los principios de UNESCO, mapear los impactos probables e incorporar a un equipo diverso y a las partes interesadas afectadas con suficiente antelación para influir en la decisión. En términos de gobernanza, la EIA es donde la Recomendación se convierte en un proceso de trabajo en lugar de un texto de política.
Qué pide a los estados y organizaciones en la práctica
Para los estados, la Recomendación apunta hacia un conjunto de medidas concretas de gobernanza. Estas incluyen marcos de evaluación de impacto, requisitos de transparencia, expectativas de auditabilidad y trazabilidad, mecanismos adecuados de responsabilidad o rendición de cuentas, salvaguardias de privacidad y protección de datos, autoridades de supervisión para usos sensibles a los derechos, y vías de reparación cuando se produzcan daños. También fomenta las estrategias nacionales y regionales de IA, medidas de gobernanza indicativa como la certificación, y el uso de prototipos de política y entornos de pruebas regulatorios para probar enfoques de gobernanza de forma segura antes de su adopción formal.
Para las autoridades públicas, el texto va más lejos. Establece que los gobiernos deben llevar a cabo una autoevaluación transparente de los sistemas de IA existentes y propuestos, incluida la cuestión de si el uso de la IA es apropiado en primer lugar. Si la adopción propuesta diera lugar a violaciones o abusos de las obligaciones en materia de derechos humanos, la Recomendación indica que su uso debe prohibirse. En entornos públicos sensibles a los derechos, como la aplicación de la ley, el bienestar social, el empleo, la atención sanitaria, los medios de comunicación y el poder judicial, se espera un seguimiento del impacto social y económico por parte de los órganos de supervisión competentes.
Para las organizaciones, incluso cuando no existe un deber jurídico directo derivado de UNESCO, la Recomendación sigue funcionando como referencia práctica. Implica la necesidad de claridad en los roles, toma de decisiones documentada, verificaciones de calidad de los conjuntos de datos, revisión de privacidad, transparencia proporcional, canales de revisión humana, respuesta a incidentes y reparación. Es especialmente útil cuando los consejos de administración o los compradores desean un marco de gobernanza más amplio que las pruebas técnicas de riesgo estrictas.
Relación con el derecho nacional y los marcos internacionales adyacentes
La Recomendación no sustituye al derecho nacional. Las constituciones nacionales, las obligaciones en materia de derechos humanos, las normas de protección de datos, el derecho del consumidor, el derecho de contratación pública, el derecho laboral, la regulación sectorial y el derecho administrativo siguen siendo los instrumentos vinculantes. La función de UNESCO es diferente. Proporciona una referencia aceptada globalmente que puede orientar la forma en que esas normas se redactan, interpretan y combinan en un modelo coherente de gobernanza de la IA.
También se sitúa junto a otros marcos intergubernamentales de IA, incluidos los Principios de IA de la OECD. Existe una superposición, especialmente en derechos humanos, equidad, transparencia y rendición de cuentas. Pero la Recomendación de UNESCO es su propio instrumento, con una base de membresía más amplia y capítulos de política más explícitos sobre áreas como cultura, género, medio ambiente, trabajo y salud. En la práctica, los gobiernos suelen utilizar estos marcos conjuntamente, mientras que el derecho nacional y regional determina lo que es realmente vinculante.
Ejemplos
Malasia ilustra una ruta de implementación basada en la estrategia. El perfil de país de UNESCO para Malasia indica que el Plan Nacional de IA 2021-2025 del país está anclado en la Recomendación de Ética de IA de UNESCO. UNESCO también señala que Malasia lanzó Directrices Nacionales de Gobernanza y Ética de la IA en 2024 y creó una Oficina Nacional de IA ese mismo año. Es un ejemplo claro de cómo un instrumento internacional no vinculante se traduce en estrategia nacional, orientaciones de gobernanza y coordinación institucional.
Los Países Bajos ilustran una ruta basada en la evaluación. El perfil de UNESCO para los Países Bajos destaca la Evaluación de Impacto sobre Derechos Fundamentales y Algoritmos neerlandesa, o FRAIA, como una forma estructurada de mapear los riesgos para los derechos en los sistemas algorítmicos y de crear un diálogo entre los profesionales que construyen o despliegan un sistema y la organización pública que planea utilizarlo. UNESCO presenta la FRAIA como una herramienta para identificar preocupaciones de forma temprana y evitar el despliegue cuando las consecuencias aún no están claras. El mismo perfil también señala la cooperación de los Países Bajos con UNESCO y la Comisión Europea en materia de supervisión de la IA.
El trabajo de UNESCO en América Latina en 2025 muestra una ruta a nivel de proyecto. UNESCO informó de proyectos piloto de su Evaluación de Impacto Ético con instituciones públicas y otras organizaciones de la región. El objetivo de esos pilotos era examinar la transparencia, el sesgo, la equidad, la privacidad y la rendición de cuentas antes y durante el despliegue. Así es como la Recomendación funciona como un flujo de trabajo de gobernanza repetible para el uso real de la IA en el sector público, no solo como una declaración de principios.
Malentendidos frecuentes
Es una ley global sobre IA. No lo es. La Recomendación es un instrumento no vinculante de UNESCO que orienta el derecho y la gobernanza nacionales.
Solo importa a los gobiernos. No exactamente. Los estados miembros son los destinatarios principales, pero el texto también orienta a todos los actores de IA a lo largo del ciclo de vida de la IA, incluidas empresas, organismos públicos, universidades y compradores.
Solo trata sobre IA generativa. No. UNESCO utiliza una concepción deliberadamente amplia y dinámica de la IA, y la Recomendación abarca muchos tipos de sistemas y usos.
Es solo lenguaje ético abstracto. No. Incluye áreas de acción política, evaluaciones de impacto, obligaciones de transparencia, medidas de rendición de cuentas, reparación, ideas sobre certificación y expectativas de supervisión.
Si se alinea con ella, se cumple la normativa en todas partes. No. El derecho local sigue siendo el que rige. UNESCO es una referencia de gobernanza, no un escudo universal de cumplimiento normativo.
Riesgos y límites
La Recomendación es influyente, pero sus límites son reales. UNESCO no actúa como regulador global de la IA. No otorga licencias directamente a sistemas, no multa a organizaciones ni resuelve disputas privadas. Si una empresa o autoridad pública causa daño, las consecuencias jurídicas vinculantes siguen dependiendo del derecho nacional, las normas sectoriales, los términos de contratación y la actuación de tribunales o reguladores.
Tampoco es una norma técnica. No indica a los ingenieros exactamente cómo diseñar cada modelo, ni proporciona un certificado único de UNESCO que acredite la conformidad. Lo que ofrece es una arquitectura de gobernanza: valores, principios, áreas de política e instrumentos de implementación que los estados y las organizaciones pueden traducir en controles adaptados a su contexto.
Esto crea un riesgo de uso superficial. Una organización puede declarar alineación con UNESCO haciendo poco más que publicar principios. Sin evaluación de impacto documentada, titularidad, supervisión, canales de revisión, reparación y evidencia de una práctica real de gobernanza, la Recomendación puede utilizarse indebidamente como imagen de marca en lugar de como gobernanza.
También existe cierta inconsistencia en los propios materiales web de UNESCO sobre el número de estados. Algunas páginas oficiales se refieren a la adopción por 193 estados miembros en 2021, mientras que algunas páginas de implementación posteriores describen la Recomendación como aplicable a, o adoptada por, 194 estados miembros. Lo que está claramente confirmado es la fecha de adopción, 23 de noviembre de 2021, y el papel de la Recomendación como referencia global en el conjunto de la membresía de UNESCO.
Próximos pasos
Trate la Recomendación como una referencia de gobernanza de base, especialmente si su organización opera en varios países o vende a sectores públicos y regulados. Es una forma útil de alinear las conversaciones jurídicas, de política, de contratación y técnicas en torno a un marco común.
Mapee su inventario de IA con la perspectiva del ciclo de vida de UNESCO. Incluya herramientas contratadas externamente, funcionalidades integradas de proveedores y sistemas de apoyo a la toma de decisiones automatizada, no solo los modelos que haya desarrollado internamente.
Establezca un proceso de revisión similar a la Evaluación de Impacto Ético de UNESCO para cualquier sistema que pueda afectar a derechos, seguridad, acceso a servicios, empleo, educación, salud, visibilidad en medios de comunicación o toma de decisiones públicas. Incorpore perspectivas jurídicas, técnicas, de contratación, de política y orientadas al usuario en la misma revisión.
Compruebe si sus controles actuales cumplen las expectativas prácticas de UNESCO: supervisión humana, explicabilidad proporcional al contexto, protección de datos, registros de auditoría, revisión de sesgos, gestión de incidentes, reparación y conciencia del impacto ambiental.
Por último, utilice UNESCO como referencia, no como sustituto de las normas vinculantes. Compare su gobernanza con el derecho local, la regulación sectorial y los términos contractuales, y luego use la Recomendación para cerrar brechas y explicar sus decisiones a consejos de administración, compradores, reguladores y socios.
¿Tiene alguna pregunta o sugerencia, o desea saber cómo investigamos y revisamos estas guías? Lea sobre nuestros estándares editoriales y cómo contactarnos.
Preguntas frecuentes
¿Es jurídicamente vinculante la Recomendación de UNESCO sobre la Ética de la IA?
No. Es una recomendación de UNESCO, no un tratado. Su finalidad es orientar el derecho, la política y la práctica nacionales, y los estados miembros informan a UNESCO sobre las medidas adoptadas.
¿Quién la adoptó y cuándo?
La Conferencia General de UNESCO la adoptó el 23 de noviembre de 2021, por aclamación.
¿A quién va dirigida?
Se dirige principalmente a los estados miembros, pero también proporciona orientación ética a todos los actores de IA a lo largo del ciclo de vida de la IA, incluidos organismos públicos, empresas, investigadores, universidades, compradores y desplegadores.
¿Prohíbe algo?
Sí, en términos normativos adopta una posición clara de que la IA no debe utilizarse para la puntuación social ni para la vigilancia masiva. También establece que las decisiones de vida o muerte no deben cederse a los sistemas de IA.
¿Es relevante solo para la IA generativa?
No. La Recomendación utiliza una comprensión amplia y duradera de la IA y se aplica a muchos tipos de sistemas de IA y casos de uso.
¿Cómo debe utilizarla una empresa que no es un gobierno?
Como referencia de gobernanza. Puede ayudar a estructurar la revisión de contrataciones, la gobernanza de productos, la evaluación de impacto, la asignación de roles, las prácticas de transparencia, la supervisión humana, la gobernanza de datos y los mecanismos de reparación, especialmente donde el marco jurídico aún está fragmentado.
¿Es lo mismo que los Principios de IA de la OECD?
No. Son marcos intergubernamentales distintos. Coinciden en temas como los derechos humanos, la equidad, la transparencia y la rendición de cuentas, pero la Recomendación de UNESCO tiene su propia base de valores, capítulos de política e instrumentos de implementación.
¿Exige la presencia de un humano en el proceso para cada sistema de IA?
No en un sentido simplista. El requisito fundamental es que la responsabilidad y la rendición de cuentas últimas recaigan en personas o entidades jurídicas existentes, y que la supervisión humana sea adecuada al contexto y a la gravedad de la decisión.