ElNotariado.com — Editor Jurídico y Tecnológico de Radio Nodo IA
La ONU abre un debate que podría redefinir la responsabilidad jurídica en la era de la IA
Informe Especial – Parte I
La responsabilidad por los daños causados por sistemas de inteligencia artificial se convirtió en uno de los temas centrales del primer Diálogo Global sobre Gobernanza de la IA organizado por las Naciones Unidas en Ginebra. Expertos internacionales, académicos y responsables de políticas públicas analizaron cómo deben adaptarse los sistemas jurídicos frente a tecnologías capaces de influir o tomar decisiones con distintos grados de autonomía. El debate se desarrolla en un momento en que la ONU advierte que la inteligencia artificial avanza más rápido que las normas destinadas a regularla.
Un debate que deja de ser teórico
La pregunta que dio nombre a la segunda jornada del Primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial fue directa:
¿Quién es legalmente responsable cuando la inteligencia artificial causa daños?
Lejos de tratarse de una discusión exclusivamente académica, Naciones Unidas sostiene que esta cuestión comienza a adquirir una importancia práctica a medida que los sistemas de IA intervienen en sectores sensibles como la salud, las finanzas, la educación, la administración pública, el empleo y la justicia.
El encuentro se desarrolló en Ginebra en el marco del AI for Good Global Summit, organizado por la Unión Internacional de Telecomunicaciones (UIT) con participación de organismos de Naciones Unidas, gobiernos, comunidad científica, empresas y organizaciones de la sociedad civil.
António Guterres: la IA avanza más rápido que las reglas
La apertura del foro estuvo a cargo del Secretario General de las Naciones Unidas, António Guterres, quien formuló una de las advertencias más contundentes realizadas hasta el momento por la organización sobre el ritmo de desarrollo de la inteligencia artificial.
En su discurso afirmó:
“Artificial intelligence is advancing at runaway speed.”
Traducción:
“La inteligencia artificial avanza a una velocidad descontrolada.”
A continuación agregó:
“A technology that can reshape economies, transform the world of work, sway elections, and tilt the balance of security is being deployed faster than anyone – including the people building it – can keep up.”
Traducción:
“Una tecnología capaz de transformar las economías, modificar el mundo del trabajo, influir en las elecciones y alterar el equilibrio de la seguridad se está desplegando más rápido de lo que cualquiera —incluidas las personas que la están construyendo— puede comprender o seguir.”
Para Guterres, la velocidad del desarrollo tecnológico supera actualmente la capacidad de respuesta de gobiernos, reguladores e incluso de los propios desarrolladores.
“Se está realizando un experimento sobre nuestras sociedades”
Uno de los pasajes más fuertes del discurso fue la descripción del escenario actual como un proceso de experimentación social sin planificación suficiente.
El Secretario General sostuvo:
“An experiment is being run on our own societies – without a plan, and without consent.”
Traducción:
“Se está realizando un experimento sobre nuestras propias sociedades, sin un plan y sin consentimiento.”
Con esta afirmación, Guterres expresó su preocupación por la rápida incorporación de sistemas de inteligencia artificial en ámbitos cotidianos antes de que existan estándares internacionales suficientemente consolidados sobre seguridad, transparencia y rendición de cuentas.
La pregunta que definirá la próxima etapa
Según Naciones Unidas, la cuestión ya no consiste únicamente en determinar qué puede hacer la inteligencia artificial.
El verdadero desafío pasa por establecer quién responderá cuando una decisión automatizada genere un daño.
La publicación oficial resume el problema de la siguiente manera:
- ¿Responde quien diseñó el modelo?
- ¿La empresa que lo comercializa?
- ¿La organización que decidió implementarlo?
- ¿El profesional que utilizó la herramienta?
- ¿O la responsabilidad debe distribuirse entre varios actores?
Los expertos coincidieron en que los marcos tradicionales de responsabilidad fueron concebidos para tecnologías en las que las decisiones eran adoptadas directamente por personas, mientras que la inteligencia artificial introduce nuevos escenarios donde intervienen múltiples participantes a lo largo del ciclo de vida del sistema.
Los derechos humanos en el centro de la discusión
Durante el panel, la profesora Sonia Livingstone, integrante del Panel Científico Internacional Independiente sobre Inteligencia Artificial creado por mandato de la Asamblea General de la ONU, presentó algunos de los primeros hallazgos del informe científico internacional.
Entre las advertencias expuestas señaló:
“Across 11 Global South countries, up to one child per classroom reported that AI was used to make sexually explicit deepfakes of them.”
Traducción:
“En once países del Sur Global, hasta un niño por aula informó que la inteligencia artificial fue utilizada para crear imágenes sexualmente explícitas falsas (deepfakes) sobre su persona.”
Livingstone agregó que las evidencias reunidas muestran un crecimiento sostenido de violaciones de derechos vinculadas con el uso indebido de la inteligencia artificial.
Según explicó:
“The evidence is much more compelling.”
En referencia a las pruebas sobre afectaciones a personas, grupos vulnerables y comunidades expuestas a sistemas automatizados.
La IA puede amplificar el engaño y la manipulación
La experta también sostuvo que la inteligencia artificial está siendo utilizada:
“to create and amplify persuasion and deceit, to spread disinformation, distrust.”
Traducción:
“Para crear y amplificar la persuasión y el engaño, así como para difundir desinformación y desconfianza.”
Asimismo, advirtió que grandes volúmenes de datos personales están siendo recopilados, procesados y reutilizados mediante sistemas de aprendizaje automático, lo que plantea nuevos desafíos para la protección de derechos fundamentales.
¿Por qué la responsabilidad adquiere tanta importancia?
La preocupación expresada durante el foro no se limita a los daños ocasionados por errores técnicos.
Los especialistas sostienen que, a medida que los sistemas de IA participan en decisiones relevantes para la vida de las personas, será indispensable identificar con claridad quién asumirá las consecuencias jurídicas cuando esos sistemas produzcan resultados lesivos.
Ese desafío alcanza cuestiones tan diversas como:
- decisiones médicas;
- concesión de créditos;
- contratación laboral;
- selección automatizada;
- administración pública;
- servicios financieros;
- sistemas judiciales asistidos por IA;
- plataformas digitales de gran escala.
La construcción de reglas claras sobre responsabilidad aparece, así, como uno de los pilares para generar confianza pública y garantizar que la innovación tecnológica permanezca compatible con los derechos humanos y el Estado de Derecho.
Informe Especial – Parte II
La responsabilidad ya no puede recaer sobre un único actor
Uno de los principales consensos surgidos del debate organizado por las Naciones Unidas fue que los sistemas actuales de inteligencia artificial son el resultado de una cadena compleja de decisiones en la que intervienen múltiples actores.
Desde el diseño y entrenamiento de los modelos hasta su implementación en productos y servicios, participan desarrolladores, proveedores de infraestructura, empresas integradoras, organismos públicos, profesionales y usuarios finales.
Por esa razón, varios especialistas coincidieron en que atribuir automáticamente toda la responsabilidad a un único sujeto jurídico podría resultar insuficiente para responder a los nuevos escenarios que plantea la inteligencia artificial.
Según la cobertura oficial de Naciones Unidas, el desafío consiste en construir mecanismos de responsabilidad que reflejen esa complejidad sin generar vacíos de protección para las personas afectadas.
Transparencia y trazabilidad como condiciones indispensables
Otro de los ejes centrales del foro fue la necesidad de garantizar que las decisiones influenciadas por inteligencia artificial puedan ser comprendidas y reconstruidas posteriormente.
Los participantes señalaron que cuando una decisión automatizada afecta derechos de una persona, debe ser posible conocer:
- qué sistema intervino;
- qué datos utilizó;
- qué grado de autonomía tuvo;
- qué controles humanos existieron;
- y quién tenía capacidad efectiva para supervisar o detener el proceso.
Sin mecanismos de trazabilidad, advirtieron los expertos, la determinación de responsabilidades podría volverse extremadamente difícil y debilitar el acceso de las víctimas a una reparación efectiva.
Derechos humanos como punto de partida
La discusión desarrollada en Naciones Unidas no se limitó a cuestiones técnicas.
Los especialistas insistieron en que toda futura regulación sobre inteligencia artificial debe partir de la protección de los derechos humanos internacionalmente reconocidos.
Entre ellos se destacaron:
- igualdad y no discriminación;
- privacidad;
- libertad de expresión;
- debido proceso;
- acceso a la justicia;
- protección de niños, niñas y adolescentes;
- dignidad humana.
La inteligencia artificial, señalaron, no modifica la vigencia de estos derechos, sino que obliga a repensar cómo garantizar su protección frente a tecnologías capaces de tomar decisiones o influir significativamente sobre la vida de las personas.
Gobernanza internacional y cooperación
El foro también puso de relieve que ningún Estado podrá resolver por sí solo los desafíos regulatorios derivados de la inteligencia artificial.
Los participantes sostuvieron que los sistemas de IA son desarrollados, entrenados y utilizados en múltiples jurisdicciones, por lo que las respuestas nacionales deberán complementarse con mecanismos internacionales de cooperación.
En ese contexto, Naciones Unidas reiteró la importancia de avanzar en una gobernanza global basada en principios compartidos, intercambio de conocimientos y fortalecimiento de capacidades técnicas para los países en desarrollo.
La confianza pública como requisito para el desarrollo de la IA
Otro de los mensajes reiterados durante el encuentro fue que la expansión de la inteligencia artificial dependerá, en gran medida, de la confianza que inspire en la sociedad.
Los expertos coincidieron en que esa confianza requiere reglas claras sobre:
- responsabilidad;
- transparencia;
- supervisión humana;
- mecanismos de reparación;
- evaluación permanente de riesgos.
La ausencia de estos elementos podría afectar la aceptación social de tecnologías que cada vez tendrán mayor presencia en la vida cotidiana.
Implicancias para América Latina
Aunque el debate se desarrolló en el ámbito de Naciones Unidas, sus conclusiones tienen especial relevancia para América Latina.
Muchos países de la región se encuentran elaborando proyectos legislativos o estrategias nacionales sobre inteligencia artificial.
La discusión impulsada por la ONU ofrece una referencia para futuras normas vinculadas con:
- responsabilidad civil por sistemas de IA;
- protección de consumidores;
- contratación pública;
- salud digital;
- servicios financieros;
- administración de justicia;
- protección de datos personales;
- supervisión de algoritmos utilizados por organismos públicos.
Asimismo, pone de manifiesto la necesidad de fortalecer capacidades técnicas en los poderes judiciales y organismos reguladores para comprender el funcionamiento de tecnologías cada vez más complejas.
Perspectiva jurídica
Desde el punto de vista del derecho, uno de los aspectos más relevantes del foro es que desplaza el debate desde la mera regulación tecnológica hacia la teoría general de la responsabilidad.
Las preguntas formuladas por Naciones Unidas afectan instituciones jurídicas consolidadas desde hace décadas:
- causalidad;
- culpa;
- previsibilidad del daño;
- deber de diligencia;
- responsabilidad por productos;
- responsabilidad profesional;
- responsabilidad del Estado.
La inteligencia artificial obliga a revisar estos conceptos cuando una decisión resulta de la interacción entre personas, organizaciones y sistemas capaces de aprender, adaptarse y actuar con distintos niveles de autonomía.
Para escribanos, abogados, magistrados, fiscales, reguladores y legisladores, este cambio supone uno de los desafíos jurídicos más importantes de la próxima década.
Conclusión
El primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial confirma que el debate internacional ha ingresado en una nueva etapa.
La cuestión ya no consiste únicamente en promover el desarrollo de la IA o en reducir sus riesgos técnicos.
La prioridad comienza a ser definir cómo preservar la responsabilidad jurídica, la rendición de cuentas y la protección efectiva de los derechos humanos en un entorno donde las decisiones automatizadas tendrán un peso creciente.
Lejos de proponer respuestas definitivas, Naciones Unidas abrió una discusión que probablemente marcará buena parte de la agenda regulatoria internacional en los próximos años.
Para el mundo jurídico, el mensaje resulta claro: el desarrollo de la inteligencia artificial exigirá adaptar principios tradicionales del derecho sin renunciar a los valores fundamentales del Estado de Derecho.