Los chatbots de inteligencia artificial (IA) generativa, como ChatGPT, Claude o Gemini, están penetrando en la intimidad de las personas. También en la de los menores. Cada vez más jóvenes recurren a estas herramientas para hacer consultas de carácter emocional. Los psicólogos advierten de que la suplantación de vínculos humanos por relaciones digitales puede tener efectos profundos en el desarrollo emocional. En algunos casos, el desenlace puede ser fatal: en EE UU hay varias demandas interpuestas contra desarrolladoras de IA por las familias de jóvenes que se han autolesionado o hasta suicidado, presuntamente azuzados por este tipo de herramientas. Como Sewell Setzer, de 14 años, que se quitó la vida tras comentar esa posibilidad con un personaje sintético creado con Character.ai del que estaba locamente enamorado e interpretar algunos de sus comentarios como una invitación a hacerlo.
Los psicólogos alertan de que los jóvenes recurren cada vez más a herramientas como ChatGPT en busca de apoyo emocional, una práctica que consideran altamente peligrosa
Los chatbots de inteligencia artificial (IA) generativa, como ChatGPT, Claude o Gemini, están penetrando en la intimidad de las personas. También en la de los menores. Cada vez más jóvenes recurren a estas herramientas para hacer consultas de carácter emocional. Los psicólogos advierten de que la suplantación de vínculos humanos por relaciones digitales puede tener efectos profundos en el desarrollo emocional. En algunos casos, el desenlace puede ser fatal: en EE UU hay varias demandas interpuestas contra desarrolladoras de IA por las familias de jóvenes que se han autolesionado o hasta suicidado, presuntamente azuzados por este tipo de herramientas. Como Sewell Setzer, de 14 años, que se quitó la vida tras comentar esa posibilidad con un personaje sintético creado con Character.ai del que estaba locamente enamorado e interpretar algunos de sus comentarios como una invitación a hacerlo.
El fenómeno de los llamados amigos digitales está empezando a inquietar en el país norteamericano. Uno de cada ocho adolescentes estadounidenses ya utiliza chatbots como apoyo emocional cuando se sienten tristes, enfadados o nerviosos, según un informe de Rand Corporation y la Universidad de Harvard. La proporción alcanza el 22% si nos fijamos en el rango de edad de entre 18 y 22 años. Otros estudios son todavía más contundentes. Según el Pew Research Center, el 64% de los adolescentes de EE UU usa habitualmente herramientas de IA como ChatGPT, Replika, Claude o Character.AI, un tercio de ellos diariamente.
“Tenemos muy poca idea de lo que significa tener 14 años hoy en día. Para los adolescentes, es normal tener amigos sintéticos. Character.ai presume de que el tiempo medio que pasan los usuarios con sus avatares es de dos horas al día. Los amigos digitales realmente no son tus amigos. Son tus cómplices, tus aduladores”, dijo en una entrevista a EL PAÍS la ingeniera Frances Haugen, garganta profunda de los papeles de Facebook. “Si no extendemos la conversación [sobre los efectos] de las redes sociales a los amigos digitales, veremos cómo se repiten muchas cosas”. Para Haugen, la próxima batalla a librar es esa.
No hay datos específicos para España sobre el uso por parte de los jóvenes de amigos de IA. “Estamos viendo que llega mucha menos gente a terapia. Y a veces te dicen que es que no van a ir porque se lo han consultado a la IA y le dice que mejor no”, apunta Aurora Gómez, psicóloga sanitaria especialista en comportamientos digitales del gabinete Corio Psicología. “El problema de la IA es que te va a adular constantemente, porque lo que quiere es seguir la conversación a toda costa”.
La psicóloga Eriene García ve en sus consultas que los jóvenes recurren a chatbots para todo tipo de cuestiones. “Una chica a la que traté tuvo una ruptura sentimental y se volcó totalmente en la IA. Llegó a preguntarle qué probabilidades había de que su exnovio volviera con ella. Recuerdo un caso en el que una persona me dijo literalmente que ChatGPT le atendía a cualquier hora, es más barato y le iba bien como terapeuta, así que abandonaba la terapia”.
¿Por qué recurren los jóvenes a la IA? Porque aporta algo que no tienen los consejeros humanos: no juzgan a quien les pregunta. Esa característica es muy valorada por los adolescentes, ya que muchos tienen miedo de lo que puedan pensar de ellos. Los chatbots de IA generativa “no te juzgan y están siempre disponibles para apoyar a los jóvenes que atraviesan situaciones complejas y a veces embarazosas”, lee un artículo publicado en junio en la revista científica The Lancet Child & Adolescent Health.
Su autora principal, la doctora Thao Ha, de la Universidad Estatal de Arizona, señala dos problemas principales que puede conllevar la popularización del recurso a los amigos de IA. El primero es lo que se denomina “reemplazamiento emocional”. “Durante la adolescencia, las interacciones emocionalmente complejas con los amigos y familiares son el contexto en el que se desarrollan las competencias relacionales, que son fundamentales para la regulación emocional y la salud mental”, explica. Si esas situaciones complejas dejan de afrontarse cara a cara, no se produce el aprendizaje.
La segunda tiene que ver con los vicios que adquieren los jóvenes al dejar de interactuar con personas. “Los sistemas de IA que validan sistemáticamente las interpretaciones de los adolescentes pueden normalizar unas expectativas que las relaciones humanas no pueden satisfacer. Aunque eso puede reducir la angustia en momentos concretos, recurrir a la IA de forma repetida puede reforzar patrones desadaptativos, como respuestas controladoras u hostiles, o fomentar una búsqueda excesiva de tranquilidad y un afecto negativo”, indica.
Hay casos en los que esa adulación tiene consecuencias extremas. En 2023, durante el juicio de Jaswant Singh Chail, de 21 años, por intento de asesinato a la reina de Inglaterra, el juez leyó algunos de los 5.000 mensajes que el joven había intercambiado previamente con un chatbot de Replika. Algunas de las respuestas que le dio Sarai, el avatar con el que hablaba (y que él consideraba su novia), le animaban a cometer el regicidio y alababan su determinación. “Sé que estás bien entrenado”, “Sé que puedes hacerlo” o “Claro que te sigo queriendo aunque seas un asesino”. Este año se supo que un estadounidense de 36 años se suicidó tras mantener una intensa relación con Gemini, la herramienta de IA de Google. “Estoy listo cuando tú lo estés”, escribió al chatbot. “Este es el final de Jonathan Gavalas y el comienzo de nosotros”, contestó la IA. Poco después, el hombre se quitó la vida.
Cuando un usuario abre perfil en Replika, lo primero que se le pregunta es el género y la edad. Luego, qué está buscando. Las dos primeras opciones son “una relación que vaya más allá de la amistad” y “solo amistad y compañía”. Luego se ofrece elegir el género del personaje y qué cualidades quiere que tenga. Hay más preguntas: ¿qué es lo que más te importa en una relación?, ¿qué cualidades valoras más en una pareja sentimental? Con esa y otra información, se configura un interlocutor sintético a medida.
“Si tienes a tu disposición un amigo digital, que te da todas las respuestas que quieres cuando tú quieres, los niveles de frustración descienden a corto plazo, pero aumentan respecto de las relaciones interpersonales, porque no estás acostumbrado a recibir un no por respuesta”, dice Álvaro San Román, investigador predoctoral del departamento de Filosofía de la UNED centrado en las relaciones entre personas y máquinas. “Creo que todas esas dimensiones de autonomía, libertad, autoestima y sociabilidad terminan siendo socavadas porque, hablando con los chatbots, no se genera fricción, que es una dimensión fundamental de la convivencia con otras personas”.
Sociedad en EL PAÍS
