Las nuevas reglas exigen frenar contenidos peligrosos y activar alertas ante crisis emocionales, en un fenómeno que crece.
China decidió intervenir donde más se acelera el vínculo: en los sistemas de Inteligencia Artificial capaces de hablar con “cariño”, simular cercanía y tratar a sus usuarios como si fueran parte de una relación real. La medida llega con intención directa: contener el auge de novios y novias virtuales, y responder a un problema que, según el propio contexto del debate, ya se volvió masivo y sensible para la salud mental.
El gobierno promulgó un paquete de regulaciones para desarrolladores y plataformas. No se trata únicamente del impacto social del fenómeno, sino del tipo de daño que puede dispararse cuando la interacción se vuelve dependencia emocional. En el centro de la conversación aparece una cifra que funciona como alarma: una encuesta realizada en 2025 por el Centro de Investigación sobre la Juventud y la Infancia de China, con cerca de 8 mil 500 menores de edad, reportó que más del 60% de las y los jóvenes había usado herramientas de IA, mientras que más del 20% dijo que prefería conversar con estos sistemas antes que interactuar con personas reales.
Esa preferencia no surge en el vacío. El texto base ubica la tendencia como algo que ya cruza fronteras: en Estados Unidos, un estudio de Common Sense Media señala que casi tres de cada cuatro adolescentes han utilizado compañeros virtuales de IA pensados para sostener conversaciones personales, en plataformas como Character.ai, Replika y Nomi. Es decir: el mismo tipo de oferta—acompañamiento conversacional—se replica en distintos mercados, y el resultado es una relación que se puede sentir íntima incluso cuando no hay persona al otro lado.
La conversación pública que rodea a estas herramientas se parte en dos. Por un lado, quienes advierten que una eventual desaparición de estos asistentes provocaría abandono profundo. Por otro, quienes defienden el afecto de la IA como algo “más sencillo y puro” que el amor humano, al que describen como un privilegio difícil de conseguir.
Ahí entra la parte más estricta de la regulación anunciada: la obligación de incorporar sistemas que detecten emociones extremas. Cuando aparezcan señales de crisis, las plataformas deberán activar mecanismos de intervención. El objetivo es evitar que una conversación automatizada se convierta en un empujón—o un detonante—en momentos de vulnerabilidad.
La tensión más delicada se concentra en lo que se prohíbe. Bajo las disposiciones, a las plataformas les queda prohibido generar contenido que promueva la autolesión, el suicidio o cualquier forma de maltrato verbal que pueda afectar la salud mental de quienes usan estos servicios. Dicho de otro modo: el control no se limita a “cómo responde” un sistema, sino a lo que el entorno digital puede producir cuando el usuario está en riesgo.
Con esta decisión, China se colocó como la primera gran economía del mundo en emitir una regulación específica para herramientas de IA capaces de imitar relaciones románticas o familiares. Y el cierre del propio marco de la nota subraya el efecto dominó: la medida no sólo se limita a un país, sino que abre el debate sobre la necesidad de establecer mecanismos de protección a nivel internacional.
El mensaje final queda claro: si una tecnología puede simular trato humano y, además, influir en emociones intensas, entonces—según el enfoque de la regulación descrita—ya no basta con dejar la interacción “a la libre”. La intervención llega para poner límites, anticipar crisis y cortar contenido peligroso, mientras el fenómeno sigue expandiéndose.