La Unión Europea establece límites al uso de inteligencia artificial para proteger los derechos fundamentales. La legislación prohíbe determinadas formas de manipulación, vigilancia biométrica y discriminación, e incorpora nuevas restricciones sobre contenidos íntimos generados sin consentimiento. Las infracciones pueden alcanzar multas de hasta 35 millones de euros o el 7 % de la facturación mundial anual de una empresa.
La Unión Europea avanza en la regulación de la inteligencia artificial mediante un sistema que distingue entre aplicaciones permitidas, tecnologías consideradas de alto riesgo y prácticas expresamente prohibidas.
El Reglamento Europeo de Inteligencia Artificial, conocido como AI Act, establece límites a determinados usos de estas tecnologías cuando pueden comprometer la dignidad humana, la privacidad, la igualdad y otros derechos fundamentales.
Las prohibiciones originales comenzaron a aplicarse el 2 de febrero de 2025. Durante 2026, el marco normativo incorporó nuevas disposiciones que comenzarán a aplicarse el próximo 2 de diciembre.
La actualización adquiere especial importancia ante el crecimiento de herramientas capaces de generar imágenes, videos, voces y otros contenidos digitales que pueden utilizarse para manipular, vigilar o perjudicar a las personas.
¿Qué usos de inteligencia artificial están prohibidos?
El artículo 5 del AI Act identifica determinadas prácticas consideradas incompatibles con los valores y derechos fundamentales protegidos por el ordenamiento europeo.
Las prohibiciones no alcanzan a toda la inteligencia artificial, sino a aplicaciones concretas que reúnen determinadas condiciones legales.
Entre las principales restricciones se encuentran las siguientes.
1. Manipular a las personas mediante inteligencia artificial
La legislación prohíbe determinados sistemas que utilizan técnicas subliminales, manipuladoras o engañosas para alterar significativamente el comportamiento de una persona.
La prohibición se aplica cuando estas prácticas afectan su capacidad para tomar decisiones informadas y provocan, o pueden provocar razonablemente, un perjuicio significativo.
Por ejemplo, un sistema diseñado para aprovechar mecanismos psicológicos y conducir a una persona hacia decisiones perjudiciales podría quedar comprendido en esta categoría.
No toda publicidad personalizada o recomendación automatizada está prohibida. La regulación exige analizar las características y consecuencias de la práctica.
2. Aprovecharse de personas vulnerables
También se prohíbe utilizar inteligencia artificial para explotar determinadas vulnerabilidades relacionadas con la edad, la discapacidad o una situación social o económica específica.
La restricción busca proteger especialmente a personas que pueden encontrarse en condiciones de mayor exposición a prácticas abusivas.
Por ejemplo, un sistema que aproveche deliberadamente la vulnerabilidad económica de una persona para inducir decisiones financieras perjudiciales podría infringir la normativa.
La prohibición requiere que se cumplan las condiciones previstas en el reglamento, entre ellas la distorsión significativa del comportamiento y la existencia o probabilidad razonable de un daño importante.
3. Clasificar socialmente a las personas
Una de las restricciones más relevantes se refiere a determinados sistemas de puntuación social.
Se trata de herramientas que evalúan o clasifican personas a partir de su comportamiento social o características personales y utilizan esas calificaciones para justificar tratamientos perjudiciales o desproporcionados.
Por ejemplo, una clasificación automatizada basada en comportamientos personales podría resultar prohibida si se utiliza para perjudicar injustificadamente a alguien en un contexto diferente de aquel en el que se obtuvo la información.
La regulación busca impedir que estas evaluaciones se conviertan en mecanismos arbitrarios de exclusión o discriminación.
4. Predecir delitos únicamente a partir de perfiles personales
El AI Act prohíbe determinados sistemas que evalúan el riesgo de que una persona cometa un delito basándose exclusivamente en perfiles personales o características de personalidad.
La finalidad es impedir que una persona sea considerada potencialmente peligrosa únicamente por inferencias estadísticas sobre sus características.
La norma distingue estas prácticas de herramientas que apoyan evaluaciones humanas fundamentadas en hechos objetivos y verificables directamente relacionados con actividades delictivas.
5. Crear bases de reconocimiento facial mediante recopilación indiscriminada
La legislación prohíbe utilizar inteligencia artificial para crear o ampliar bases de datos de reconocimiento facial mediante la extracción indiscriminada de imágenes de internet o grabaciones de cámaras de vigilancia.
Esta práctica puede comprometer la privacidad de millones de personas cuyas fotografías circulan en plataformas digitales.
La prohibición se refiere específicamente a la recopilación no dirigida para crear o ampliar bases de reconocimiento facial.
No significa que cualquier utilización de fotografías disponibles en internet esté automáticamente comprendida en esta prohibición.
6. Reconocer emociones en ámbitos laborales y educativos
Otra restricción afecta a determinados sistemas que utilizan datos biométricos para inferir emociones de trabajadores o estudiantes.
Por ejemplo, una empresa no puede utilizar libremente inteligencia artificial para analizar expresiones faciales y deducir el estado emocional de sus empleados.
La prohibición también alcanza a instituciones educativas.
La normativa contempla excepciones específicas vinculadas con razones médicas o de seguridad.
7. Deducir características sensibles mediante datos biométricos
El reglamento prohíbe determinados sistemas de categorización biométrica destinados a inferir características especialmente sensibles de las personas.
Entre ellas se encuentran las opiniones políticas, las creencias religiosas, la afiliación sindical y la orientación sexual.
La finalidad es evitar que los datos biométricos sean utilizados para elaborar clasificaciones personales que puedan facilitar prácticas discriminatorias.
8. Identificación biométrica remota en espacios públicos
La legislación establece restricciones particularmente estrictas sobre el uso de identificación biométrica remota en tiempo real, como determinados sistemas de reconocimiento facial utilizados por fuerzas de seguridad en espacios públicos.
La norma contempla excepciones limitadas para situaciones específicas, sujetas a condiciones legales y garantías adicionales.
Entre ellas se encuentran determinadas búsquedas de víctimas o personas desaparecidas, amenazas graves para la seguridad y la localización de sospechosos de ciertos delitos graves.
Por lo tanto, no se trata de una prohibición absoluta de cualquier reconocimiento facial, sino de un régimen jurídico que limita especialmente determinados usos policiales.
Nuevas prohibiciones que comenzarán a aplicarse en diciembre de 2026
Una de las novedades incorporadas al marco europeo durante 2026 está relacionada con los contenidos sexuales generados o manipulados mediante inteligencia artificial.
Las nuevas disposiciones comenzarán a aplicarse el 2 de diciembre de 2026.
Imágenes íntimas creadas sin consentimiento
La legislación incorpora una prohibición específica sobre determinados sistemas capaces de generar o manipular imágenes, videos, audios u otros materiales realistas que representen partes íntimas de una persona identificable o actividades sexualmente explícitas sin su consentimiento.
La disposición busca enfrentar prácticas conocidas como deepfakes sexuales y herramientas de desnudez artificial.
Estas tecnologías pueden utilizar fotografías auténticas de una persona para producir imágenes íntimas falsas, sin que la persona haya participado ni autorizado su creación.
La nueva regulación establece condiciones particulares para los proveedores y usuarios de los sistemas, incluyendo obligaciones relacionadas con las medidas técnicas destinadas a prevenir estos resultados.
Material de abuso sexual infantil generado mediante IA
La reforma también incorpora una prohibición específica sobre sistemas destinados a generar o manipular material de abuso sexual infantil, con el alcance y las excepciones jurídicas establecidos por la normativa.
La disposición aborda los riesgos asociados con herramientas generativas capaces de producir contenidos ilícitos o facilitar nuevas modalidades de explotación.
La regulación establece responsabilidades diferenciadas para quienes desarrollan estas tecnologías y para quienes las utilizan con finalidades prohibidas.
¿Quiénes pueden ser responsables?
Un aspecto fundamental del AI Act es que las obligaciones no se limitan a las empresas que desarrollan sistemas de inteligencia artificial.
También pueden alcanzar a organizaciones y personas que utilizan estas herramientas en el ejercicio de sus actividades.
La legislación distingue, entre otros operadores, a los proveedores de sistemas y a quienes los implementan o utilizan bajo su autoridad.
Esto significa que una empresa puede tener responsabilidades relacionadas con el uso de una herramienta de inteligencia artificial aunque no haya desarrollado su tecnología.
El análisis depende de la actividad realizada, el sistema utilizado y las obligaciones que correspondan a cada operador.
Multas de hasta 35 millones de euros
El incumplimiento de las prohibiciones del artículo 5 puede dar lugar a importantes sanciones administrativas.
El artículo 99 del reglamento contempla multas de hasta 35 millones de euros o, cuando el infractor sea una empresa, hasta el 7 % de su facturación mundial anual total correspondiente al ejercicio anterior, aplicándose el importe que resulte superior.
La legislación establece reglas particulares para pequeñas y medianas empresas, así como criterios de proporcionalidad que deben considerarse al determinar las sanciones.
Estas cifras representan límites máximos previstos por la normativa y no multas automáticas para cualquier infracción.
¿La regulación europea puede afectar a empresas de otros países?
El alcance territorial del AI Act no se limita exclusivamente a las empresas establecidas dentro de la Unión Europea.
En determinadas circunstancias, también puede aplicarse a proveedores y operadores establecidos fuera del territorio europeo.
Esto resulta especialmente relevante para empresas tecnológicas que comercializan servicios de inteligencia artificial en el mercado europeo o cuyos sistemas producen resultados utilizados dentro de la Unión Europea.
La aplicación concreta depende de las condiciones previstas por el reglamento.
Para las empresas latinoamericanas que ofrecen servicios tecnológicos internacionales, conocer estas disposiciones puede resultar importante al diseñar productos, establecer contratos y evaluar sus obligaciones de cumplimiento normativo.
Inteligencia artificial, derechos y responsabilidad jurídica
La regulación europea introduce un cambio significativo en la relación entre tecnología y derecho.
El debate ya no se concentra exclusivamente en las capacidades de los sistemas de inteligencia artificial, sino también en los límites jurídicos de su utilización.
La protección de los datos personales, la dignidad humana, la igualdad, la autonomía individual y la responsabilidad por decisiones automatizadas adquieren especial relevancia.
Para los profesionales del derecho, el desarrollo de estas normas plantea nuevos desafíos en materia contractual, protección de datos, responsabilidad civil, cumplimiento regulatorio y tutela de los derechos fundamentales.
El AI Act también permite distinguir entre prácticas expresamente prohibidas y sistemas que, aunque pueden utilizarse legalmente, están sujetos a requisitos específicos por su nivel de riesgo.
La inteligencia artificial puede contribuir al desarrollo económico, científico y tecnológico, pero su utilización debe respetar los derechos de las personas y las condiciones establecidas por el ordenamiento jurídico.
La experiencia europea constituye uno de los principales antecedentes internacionales para analizar cómo establecer límites legales a tecnologías cada vez más capaces de intervenir en las decisiones y actividades humanas.
Fuentes primarias
1. Parlamento Europeo y Consejo de la Unión Europea. Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Texto consolidado, particularmente artículos 2, 5 y 99.
2. Comisión Europea. Directrices sobre prácticas de inteligencia artificial prohibidas conforme al AI Act. Publicadas el 4 de febrero de 2025.
3. Unión Europea. Reglamento (UE) 2026/1744, que introduce modificaciones al régimen de inteligencia artificial, incluidas nuevas prohibiciones relativas a determinados contenidos sexuales generados mediante IA.
4. Comisión Europea. Documentación institucional sobre aplicación, supervisión y calendario de implementación del Reglamento Europeo de Inteligencia Artificial.
Nota de transparencia editorial: Este contenido fue elaborado con asistencia de herramientas de inteligencia artificial y revisión editorial, utilizando normativa europea y documentación institucional de fuentes primarias. ElNotariado.com y Radio Nodo IA promueven el uso responsable de inteligencia artificial, incluidas voces sintéticas en sus contenidos audiovisuales, con supervisión humana y verificación de fuentes.
