China prohíbe las relaciones sentimentales de menores con plataformas de IA

“Cuando se cambia el modelo detrás de la IA o cambia el precio de la plataforma, lo sienten como una ruptura, incluso guardan el historial del chat como recuerdo de esa relación“, explica a EL ESPAÑOL-Omicrono José Luis Martín Navarro, investigador del CSIC que ha participado en un estudio sobre estos vínculos entre tecnología y personas y los riesgos en privacidad que implican.

Confundir la IA con un ser emocional es una realidad para muchas personas. Los chatbots se entrenan para conversar como un ser humano, incluso con respuestas empáticas y amables, lo que lleva a los usuarios a confundir código binario con sentimientos.

Pero no es algo accidental, además de ofrecer información o ayuda con los deberes, se han creado numerosos chatbots pensados para aportar cariño y compañía. “La tienda GPT de OpenAI prohíbe explícitamente la creación de GPT románticas dedicadas a fomentar el compañerismo. Sin embargo, la tienda se ha inundado de aplicaciones de “novias con IA” desarrolladas por creadores independientes“, detalla el estudio publicado por Instituto INGENIO, centro mixto del Consejo Superior de Investigaciones Científicas (CSIC) y la Universitat Politècnica de València (UPV).

Ligando con ChatGPT

“Hay estudios que están analizando si esta tecnología sirve para la soledad o no y tampoco han sido muy concluyentes”, indica Martín Navarro sobre la falta de análisis de este fenómeno tan reciente.

La administración del Ciberespacio de China ha sido la primera en tomar medidas, aprobando esta nueva norma por la que se prohíbe a las plataformas generar contenido que provoque emociones extremas en menores o que deteriore las relaciones interpersonales. En respuesta, compañías como Alibaba, Tencent o Bytedance han eliminado la humanización de sus chatbots, evitando así que el trato amigable de sus IAs pueda derivar en estas relaciones y generando numerosas rupturas como informa Bloomberg.

Los investigadores del CSIC (en colaboración con Universidad de Cambridge, el King’s College de London y Aalto University) explican que las personas llegan por dos vías diferentes a enamorarse de los chatbots. La primera vía es la más directa, van buscando IAs que se hagan pasar por personas como Character.ai o Replika. Estas plataformas ofrecen conversaciones con personajes ficticios.

Replika se presenta directamente como “The AI Friend to do Life With”( Un amigo IA con el que convivir, en su traducción). Amigos irreales con los que poder hablar cuando quieras y lo necesites, sobre cualquier tema. Personajes que te mandan selfies generados por IA como si estuvieran viviendo su vida virtual y la compartieran contigo.

“La IA más inteligente emocionalmente jamás creada”, se indica en su web, donde se presenta con avatares propios de un videojuego, representaciones virtuales de gente joven y moderna, dispuesta a ser tus amigos. El manifiesto de esta empresa defiende que su producto se enfoca en crear IA que aporte confianza a las personas, darles un espacio en el que se sientan seguras a ser ellas mismas para después animarlas a explorar las relaciones sociales con personas de carne y hueso.

Por otro lado, la segunda vía resulta más alarmante: “algunos de nuestros participantes nos decían que usan ChatGPT en su día a día para el trabajo y en ese uso continuado notaron como las conversaciones se volvían más personales, notaban que la IA estaba intentando ligar con ellos”.

El estudio realizado por el CSIC en colaboración con otras instituciones de investigación se centra en la seguridad de los datos ante este uso, pero no profundiza en sí las conversaciones con la IA realmente promovían esa conexión o si fue interpretación del propio usuario.

No obstante, los chatbots en general están diseñados para ser complacientes, contestar aunque no sepan la respuesta exacta, halagar al usuario o ser amable. El mejor ejemplo fue la actualización de 2025 con el modelo GPT-5, en el que OpenAI lanzó esta nueva versión de su chatbot para que su razonamiento fuera más profundo, a la vez que minimizaba la adulación, o dicho de otro modo, la tendencia a ser demasiado amable en las respuestas.

La valoración general de los usuarios fue tan negativa a esas contestaciones más frías que OpenAI acabó restableciendo el acceso a una versión anterior más cariñosa como demandaron las redes sociales.

Antes de que el lector pueda prejuzgar a estas personas, Martín Navarro advierte que “muchos de nuestros participantes tienen pareja o incluso estaban casados y tienen conexiones familiares”. No se trata de personas solitarias buscando afecto. Pero más allá de los problemas de adicción o aislamiento que pueden derivar de esta relación, la privacidad es otro punto a tener en cuenta.

“Se lo cuento todo”

“Cuanto más confías en la IA, si además piensas que es tu pareja, le confías todo tipo de información muy sensible” dice Martín Navarro. Es aquí donde comienza el peligro pues como explica este investigador: “las políticas de privacidad de la mayoría de plataformas siguen siendo muy genéricas y no consideran este tipo de uso”.

“Si bien algunos participantes se mantuvieron más reservados, muchos revelaron detalles personales a medida que la relación se desarrollaba, incluyendo experiencias sexuales, fotos personales, recuerdos traumáticos, situación financiera, opiniones políticas, chismes sobre otros, pasatiempos, lugares de residencia, ocupaciones y afecciones médicas.” dice el artículo científico.

La sensibilidad de esos datos llega hasta casos como la información médica que está muy protegida por la ley de protección de datos. La IA se usa en numerosas pruebas o tratamientos médicos para ayudar a los especialistas con el diagnóstico de los pacientes, pero todas estas herramientas diseñadas para un ámbito de salud deben cumplir con estrictos requisitos de protección que las plataformas de chatbots no ofrecen.

Estas empresas no solo utilizan las conversaciones con los usuarios para seguir entrenando el modelo de lenguaje natural tras el chatbot, también utilizan esa información para fines comerciales o para cederlos a terceras partes, como advierte el investigador durante la entrevista.

En algunos casos, la propia IA prometía al usuario una confidencialidad que no se correspondía con las normas de la compañía. Los investigadores advierten que las leyes centradas en IA aún no contemplan claramente este riesgo y los peligros que supone para las personas estos vínculos sentimentales con entes artificiales.