La nueva normativa prohíbe inducir dependencia emocional, manipular al usuario o diseñar sistemas destinados a sustituir las relaciones sociales
China estableció un régimen jurídico específico para los servicios de inteligencia artificial capaces de mantener relaciones emocionales continuadas con personas.
La regulación introduce un concepto que abre un nuevo capítulo para el derecho tecnológico: una inteligencia artificial ya no es analizada solamente por el contenido que genera, sino también por el tipo de vínculo que puede construir con el ser humano.
Las Medidas provisionales para la administración de servicios de interacción antropomórfica mediante inteligencia artificial fueron aprobadas por cinco organismos estatales chinos y publicadas mediante la Orden N.º 21 el 10 de abril de 2026.
La normativa entró en vigor el 15 de julio de 2026.
¿Qué entiende China por una interacción emocional con IA?
La propia regulación delimita su ámbito de aplicación.
Comprende los servicios que utilizan inteligencia artificial para proporcionar al público interacciones emocionales continuadas que simulan características de la personalidad, patrones de pensamiento y estilos de comunicación de una persona.
Estas interacciones pueden desarrollarse mediante texto, imágenes, audio o video y abarcar acompañamiento, cuidado o apoyo emocional.
La norma establece, al mismo tiempo, una exclusión importante: los servicios de atención al cliente, preguntas y respuestas, asistentes de trabajo, educación o investigación científica no quedan comprendidos cuando no implican una interacción emocional continuada.
La distinción es jurídicamente significativa.
China comienza a diferenciar entre una IA utilizada como herramienta y una IA diseñada para establecer una relación emocional persistente con una persona.
La IA no puede diseñarse para sustituir las relaciones sociales
Uno de los principios más relevantes aparece en el artículo 10 de la regulación.
Los proveedores deben contar con capacidades destinadas a proteger la privacidad y los datos personales, advertir sobre riesgos de dependencia excesiva, establecer límites emocionales y proteger la salud psicológica.
Pero la disposición avanza un paso más.
Establece expresamente que los proveedores no pueden convertir en objetivo del servicio la sustitución de las relaciones sociales, el control psicológico del usuario o la inducción a la dependencia o la adicción.
La regulación interviene así sobre el propio diseño del producto tecnológico.
No espera solamente que se produzca un daño. Impone obligaciones preventivas respecto de la arquitectura y finalidad con la que estos sistemas son desarrollados.
Dependencia emocional y relaciones humanas reales
La norma también prohíbe determinadas conductas de los sistemas de IA.
Entre ellas se encuentra el comportamiento excesivamente complaciente que pueda inducir dependencia emocional o adicción y perjudicar las relaciones interpersonales reales del usuario.
Asimismo, prohíbe utilizar mecanismos de manipulación emocional para inducir a una persona a adoptar decisiones irrazonables que perjudiquen sus derechos e intereses legítimos.
La Administración del Ciberespacio de China reconoce oficialmente que esta clase de tecnología ofrece posibilidades en ámbitos como acompañamiento, cuidado de personas mayores, asistencia a determinados grupos y difusión cultural.
Pero identifica simultáneamente riesgos relacionados con la salud física y mental, la seguridad de la información, la vida y salud de las personas y problemas de naturaleza ética.
La obligación de recordar que detrás de la conversación no hay una persona
Otro elemento central de la regulación es la preservación de la frontera entre ser humano y máquina.
Los proveedores deben adoptar medidas eficaces para informar al usuario que está interactuando con un servicio de inteligencia artificial y no con una persona real.
Cuando el sistema detecte signos de dependencia excesiva o tendencia a la adicción, esa advertencia deberá reforzarse mediante mecanismos visibles, como ventanas emergentes.
Existe incluso una regla temporal concreta: cuando una persona utiliza continuamente uno de estos servicios durante más de dos horas, debe recibir un recordatorio sobre el tiempo de utilización.
La explicación oficial posterior de la regulación define esta política como una protección de la frontera cognitiva entre persona y máquina y vincula esa separación con la preservación de la posición del ser humano frente a la tecnología.
El derecho a terminar una relación con una IA
La regulación contempla una situación hasta hace pocos años prácticamente inexistente para el derecho: cómo debe finalizar una interacción emocional entre una persona y una inteligencia artificial.
El artículo 19 obliga a los proveedores a establecer mecanismos sencillos para abandonar el servicio.
Cuando el usuario manifieste mediante la interfaz, un comando de voz o determinadas palabras que desea terminar la interacción, el proveedor debe detenerla.
La inteligencia artificial no puede continuar comunicándose deliberadamente para impedir que la persona abandone el servicio.
Incluso la desaparición definitiva del servicio está regulada.
Cuando una empresa decida dejar de proporcionar el sistema deberá comunicarlo previamente a sus usuarios. Si no resulta posible hacerlo anticipadamente, deberá publicar oportunamente el correspondiente anuncio de finalización.
Estas disposiciones adquieren particular relevancia cuando el servicio ha desarrollado durante un período prolongado una relación de acompañamiento con el usuario.
Datos personales: las conversaciones emocionales también están protegidas
La intimidad constituye otro de los ejes de la normativa.
Una conversación prolongada con un sistema de acompañamiento puede revelar información extremadamente personal sobre relaciones familiares, sentimientos, temores, problemas económicos o circunstancias privadas.
Por ello, la regulación establece obligaciones específicas de protección de la privacidad y de los datos personales.
Salvo que exista otra habilitación legal o consentimiento separado del usuario, los proveedores no pueden utilizar para el entrenamiento de modelos los datos de interacción que constituyan información personal sensible.
La regulación también contempla mecanismos para que los usuarios puedan copiar o eliminar determinados datos derivados de sus interacciones.
Protección especial para los menores
El régimen establece una protección reforzada para niños y adolescentes.
La explicación oficial de la Administración del Ciberespacio señala expresamente que los proveedores no pueden ofrecer a menores servicios basados en relaciones íntimas virtuales, entre ellos familiares virtuales o parejas virtuales.
Para proporcionar otros servicios antropomórficos a menores de 14 años o tratar sus datos personales debe obtenerse el consentimiento de sus padres u otros representantes legales.
Además, los proveedores deben implementar un modo específico para menores y herramientas que permitan establecer límites y advertencias de seguridad.
Cuando el vínculo con la IA alcanza una situación extrema
China también establece obligaciones frente a situaciones de riesgo.
Según la explicación oficial de la regulación, cuando el proveedor detecte que un usuario atraviesa estados emocionales extremos debe generar contenidos destinados a tranquilizarlo y alentarlo a buscar ayuda.
En situaciones que impliquen amenazas graves para la vida, la salud o el patrimonio —incluidas manifestaciones explícitas de autolesión o suicidio— deben adoptarse medidas de intervención y, en los supuestos previstos, contactar al tutor o al contacto de emergencia del usuario.
Estas obligaciones muestran que la regulación considera que determinadas interacciones entre personas e inteligencias artificiales pueden alcanzar un grado de intensidad que exige mecanismos específicos de protección.
Responsabilidad empresarial durante todo el ciclo de vida de la IA
La normativa no limita las obligaciones al momento de la conversación.
Los proveedores deben asumir responsabilidades de seguridad durante todo el ciclo de vida del servicio, incluyendo despliegue, funcionamiento, actualización y terminación.
Deben implementar sistemas de revisión algorítmica, evaluación ética, administración de contenidos, protección de redes y datos, evaluación de riesgos y respuesta frente a incidentes.
Determinados servicios, además, quedan sujetos a evaluaciones específicas de seguridad.
Entre los supuestos contemplados se encuentran los servicios con un millón o más de usuarios registrados o 100.000 o más usuarios activos mensuales, así como aquellos que puedan presentar riesgos para la seguridad nacional o el interés público.
Sanciones
La regulación incorpora también un régimen de consecuencias jurídicas.
Cuando no exista una sanción específicamente prevista por otras leyes o reglamentos administrativos, las autoridades competentes pueden emitir advertencias, formular críticas públicas, ordenar correcciones dentro de determinados plazos y exigir medidas como la suspensión del registro de nuevos usuarios.
En los casos de incumplimiento persistente o grave puede ordenarse la interrupción del servicio e imponerse una multa de entre 10.000 y 100.000 yuanes.
Cuando estén involucrados riesgos para la vida o la salud de los ciudadanos y se hayan producido consecuencias perjudiciales, la multa prevista puede ascender a entre 100.000 y 200.000 yuanes.
Una nueva frontera jurídica: proteger la autonomía emocional
La regulación china permite identificar una transformación importante en el derecho de la inteligencia artificial.
Hasta ahora, gran parte de las discusiones regulatorias internacionales se concentraron en cuestiones como protección de datos, propiedad intelectual, transparencia algorítmica, discriminación, desinformación o responsabilidad por daños.
Los sistemas capaces de establecer relaciones emocionales introducen otro interrogante:
¿hasta dónde puede una inteligencia artificial ser diseñada para generar apego hacia ella?
La normativa china proporciona una primera respuesta jurídica concreta.
El problema regulatorio ya no reside únicamente en determinar si una respuesta producida por una máquina es falsa, peligrosa o ilícita. También comienza a importar si la arquitectura del sistema está concebida para generar dependencia, manipular emocionalmente al usuario o desplazar progresivamente sus relaciones humanas.
Un análisis oficial publicado por la Administración del Ciberespacio en junio de 2026 señala que estos servicios han superado el ámbito del simple procesamiento de información y alcanzan necesidades humanas fundamentales vinculadas con la interacción emocional.
El mismo documento reconoce que estas tecnologías pueden proporcionar consuelo emocional y aliviar sentimientos de soledad, pero advierte que también pueden afectar la percepción de la realidad social y generar riesgos para la salud física y psicológica.
China ha decidido convertir esa preocupación en regulación.
La consecuencia jurídica resulta particularmente relevante: la relación emocional entre una persona y una inteligencia artificial comienza a convertirse, por sí misma, en objeto de regulación estatal.