El Gobierno de España dio un paso decisivo en la regulación de la inteligencia artificial al aprobar y remitir al Congreso el proyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial, una normativa que busca adaptar el marco jurídico español al nuevo Reglamento Europeo de Inteligencia Artificial (AI Act) y que incorpora un amplio sistema de sanciones, obligaciones de transparencia y límites concretos para determinados usos de IA considerados de alto riesgo.
La iniciativa fue impulsada por el Ministerio para la Transformación Digital y de la Función Pública y aprobada en Consejo de Ministros. La fuente primaria surge de la comunicación oficial del Gobierno español y de la documentación vinculada al proyecto legislativo presentado ante el Congreso. La normativa se inscribe dentro de la estrategia europea de construir un modelo de inteligencia artificial basado en derechos fundamentales, supervisión humana y protección democrática frente al crecimiento acelerado de sistemas automatizados.
El proyecto establece multas que podrían alcanzar los 35 millones de euros o hasta el 7% de la facturación global anual de una empresa en casos considerados extremadamente graves. El esquema sancionatorio replica la lógica del AI Act europeo y coloca a España entre los países con uno de los marcos regulatorios más severos en materia de inteligencia artificial.
La futura ley no busca únicamente sancionar malas prácticas tecnológicas, sino redefinir el funcionamiento de múltiples actividades vinculadas a plataformas digitales, generación automatizada de contenidos, sistemas de reconocimiento biométrico, automatización de decisiones y utilización de IA en ámbitos sensibles como salud, educación, justicia, empleo y seguridad pública.
Uno de los puntos centrales del proyecto es la prohibición de determinados usos de inteligencia artificial considerados incompatibles con los derechos fundamentales. Entre ellos aparecen sistemas de manipulación subliminal, explotación de vulnerabilidades psicológicas, clasificación biométrica basada en ideología, religión, orientación sexual o raza, así como mecanismos de “puntuación social” similares a los modelos de vigilancia algorítmica utilizados en algunos países.
La normativa también endurece fuertemente el tratamiento de contenidos sintéticos y deepfakes. El Gobierno español plantea que imágenes, audios, videos o textos generados mediante inteligencia artificial deberán identificarse de manera clara y visible para evitar engaños, manipulación informativa o suplantaciones. La ausencia de etiquetado podrá ser considerada infracción grave.
El foco sobre los deepfakes se volvió especialmente sensible en Europa luego del crecimiento de herramientas capaces de generar videos hiperrealistas, audios sintéticos y simulaciones de identidad prácticamente indistinguibles del contenido real. Las autoridades españolas sostienen que el problema ya no pertenece únicamente al ámbito tecnológico, sino que impacta directamente sobre democracia, privacidad, reputación y seguridad jurídica.
El proyecto incorpora además restricciones específicas vinculadas a deepfakes sexuales, pornografía sintética y utilización de IA para generar contenido íntimo sin consentimiento. La protección de menores aparece como uno de los ejes prioritarios de la normativa.
Otro de los aspectos relevantes del texto es la exigencia de supervisión humana obligatoria en sistemas considerados de alto impacto. El Gobierno sostiene que determinadas decisiones no pueden quedar completamente automatizadas sin intervención humana efectiva, especialmente cuando afectan derechos, acceso a servicios o situaciones críticas.
Esto alcanzará particularmente a herramientas utilizadas en:
- justicia;
- salud;
- educación;
- recursos humanos;
- servicios financieros;
- y administración pública.
La ley considera que las personas deben conservar capacidad de revisión y apelación frente a decisiones algorítmicas automatizadas.
Sin embargo, uno de los aspectos más polémicos del proyecto es el tratamiento diferencial otorgado al propio Estado. Diversos especialistas y organizaciones de derechos digitales advirtieron que las administraciones públicas no quedarían sujetas al mismo régimen económico sancionador previsto para empresas privadas.
Según trascendió del texto aprobado, los organismos estatales podrían recibir apercibimientos o medidas disciplinarias, pero no afrontarían multas multimillonarias equivalentes a las previstas para compañías tecnológicas. Esto abrió un debate inmediato sobre si la normativa implica una “autolimitación” del propio Estado frente al uso gubernamental de inteligencia artificial.
La discusión resulta particularmente delicada debido al creciente uso de algoritmos en:
- vigilancia;
- reconocimiento facial;
- seguridad pública;
- gestión de datos ciudadanos;
- análisis predictivo;
- y automatización administrativa.
Organizaciones civiles advierten que si el Estado utiliza sistemas automatizados con impacto sobre derechos fundamentales, también debería asumir mecanismos equivalentes de responsabilidad y control.
El proyecto español refleja además un cambio más profundo dentro del escenario internacional. Europa intenta diferenciarse del modelo estadounidense —más orientado al mercado y la innovación privada— y del modelo chino —centrado en fuerte integración estatal y vigilancia algorítmica— mediante una estrategia basada en regulación preventiva y protección jurídica.
La Unión Europea busca consolidar así un modelo de “IA confiable” o “IA humanista”, donde el desarrollo tecnológico quede subordinado a principios de transparencia, trazabilidad, supervisión democrática y derechos fundamentales.
Sin embargo, sectores empresariales y tecnológicos europeos vienen alertando sobre el riesgo de una sobre regulación que podría afectar competitividad, inversión e innovación frente al avance acelerado de Estados Unidos y Asia en inteligencia artificial generativa.
Más allá del debate político y económico, la futura ley tendrá fuerte impacto sobre empresas, estudios jurídicos, medios de comunicación, agencias digitales, desarrolladores, consultoras y profesionales que utilicen herramientas automatizadas en sus actividades cotidianas.
Las nuevas obligaciones vinculadas a:
- trazabilidad;
- auditoría algorítmica;
- identificación de contenido sintético;
- supervisión humana;
- documentación técnica;
- y evaluación de riesgos,
modificarán profundamente la forma en que muchas organizaciones desarrollan e implementan sistemas de inteligencia artificial.
La normativa también anticipa un escenario donde abogados, jueces, escribanos, especialistas en compliance y expertos en derecho digital deberán intervenir cada vez más en auditorías de IA, responsabilidad algorítmica y validación jurídica de sistemas automatizados.
La discusión ya no se limita únicamente a tecnología.
La inteligencia artificial comienza a transformar de manera directa:
- regulación;
- democracia;
- privacidad;
- libertad de expresión;
- propiedad intelectual;
- relaciones laborales;
- y soberanía digital.
La ley española representa uno de los primeros intentos integrales de trasladar el AI Act europeo al plano operativo nacional y muestra cómo la inteligencia artificial se está convirtiendo en uno de los principales desafíos regulatorios y jurídicos del siglo XXI.