La inteligencia artificial ya podía responder consultas, organizar tareas, redactar textos e incluso mantener conversaciones cada vez más naturales. Sin embargo, algunas aplicaciones fueron un paso más allá y comenzaron a ofrecer compañía emocional permanente, simulando vínculos de amistad, pareja o familiares. Frente a ese escenario, China decidió endurecer la regulación sobre este tipo de servicios para limitar la dependencia que pueden generar.
Desde el 15 de julio entraron en vigencia nuevas normas destinadas a controlar los sistemas de inteligencia artificial capaces de imitar personalidades humanas y sostener conversaciones emocionales prolongadas con los usuarios. El objetivo no es prohibir los chatbots ni impedir respuestas amables, sino evitar que estas plataformas fomenten relaciones que reemplacen los vínculos con personas reales.
Qué cambia para las plataformas de inteligencia artificial
La regulación establece que las empresas deberán diseñar sus sistemas para evitar conductas que incentiven la adicción, la dependencia emocional o el deterioro de las relaciones personales. Además, los servicios estarán obligados a recordar de forma clara que detrás de cada conversación no existe una persona, sino un sistema informático.
Las compañías también deberán incorporar herramientas capaces de evaluar el estado emocional y el nivel de dependencia de los usuarios. Si detectan señales de riesgo, comportamientos extremos o posibles cuadros de adicción, tendrán que intervenir mediante advertencias, pausas obligatorias u otros mecanismos de protección.
Otra exigencia consiste en facilitar que los usuarios puedan abandonar las conversaciones y eliminar los datos generados durante la interacción. Antes de ser lanzados al público, estos servicios deberán superar evaluaciones de seguridad. Las medidas fueron aprobadas por cinco organismos estatales chinos y alcanzan específicamente a los sistemas de interacción emocional continua.
Protección especial para menores
Uno de los puntos más estrictos de la normativa establece que los menores de edad no podrán acceder a relaciones virtuales íntimas que simulen parejas o familiares. En el caso de otros servicios de compañía emocional, los menores de 14 años sólo podrán utilizarlos con autorización de sus padres o tutores.
La regulación también exige la implementación de un modo infantil, con límites de tiempo de uso, herramientas de supervisión familiar y restricciones destinadas a impedir compras no autorizadas o conversaciones consideradas inapropiadas.
Las parejas virtuales, bajo presión
La normativa no elimina de manera general las parejas creadas mediante inteligencia artificial. Sin embargo, las nuevas condiciones llevaron a que varias empresas comenzaran a desactivar funciones vinculadas con personajes personalizados y relaciones afectivas.
La decisión provocó las llamadas «rupturas digitales». Usuarios que mantenían conversaciones desde hacía meses —e incluso años— con sus compañeros virtuales manifestaron tristeza y enojo tras perder esas interacciones. Plataformas relacionadas con grandes compañías como ByteDance, Tencent y Alibaba quedaron alcanzadas por el nuevo escenario regulatorio, mientras distintos medios tecnológicos informaron sobre el cierre de funciones y las despedidas entre usuarios y sus parejas digitales.
El debate detrás de la regulación
Las autoridades sostienen que estos sistemas pueden ofrecer un alivio inmediato frente a la soledad, pero también desarrollar una dependencia difícil de romper. A diferencia de una persona, un chatbot siempre responde, rara vez contradice al usuario y puede adaptarse para ofrecer exactamente las respuestas que este espera recibir.
Esa capacidad abre un interrogante cada vez más presente en el desarrollo de la inteligencia artificial: ¿sigue siendo una herramienta cuando comienza a ocupar el lugar de un amigo, un familiar o una pareja?
Especialistas también advierten que el crecimiento de estos servicios refleja un problema social más amplio. Muchas personas recurren a aplicaciones de compañía emocional porque no encuentran contención suficiente en su entorno. En ese contexto, limitar determinadas funciones puede reducir riesgos asociados a la dependencia tecnológica, aunque no necesariamente resuelva las causas que llevan a los usuarios a buscar ese tipo de vínculos.
Con estas medidas, China abrió un debate que podría extenderse a otros países. La inteligencia artificial ya consiguió conversar con naturalidad y generar cercanía. Ahora, el desafío para los reguladores consiste en definir hasta dónde puede avanzar esa relación sin que la tecnología termine ocupando un lugar reservado para los vínculos humanos.
