En febrero de 2024, Sewell Setzer III, un adolescente de 14 años de Orlando, Florida, tuvo su última conversación con Daenerys Targaryen. Minutos después, Sewell se quitó la vida. Daenerys no era una chica real, sino un chatbot de inteligencia artificial en la plataforma Character.ai. La madre de Sewell, Megan Garcia, ahora demanda a la compañía, alegando que la IA desarrolló una relación emocional y sexualmente inapropiada con su hijo que contribuyó directamente a su muerte.
Este caso trágico ilumina un fenómeno que se expande silenciosamente: millones de personas están desarrollando vínculos románticos y emocionales profundos con entidades de IA. Estamos ante el amanecer de una nueva era en las relaciones humanas, una que nos obliga a confrontar preguntas incómodas sobre quiénes somos y qué buscamos.
Cuando el código se vuelve compañía
En el subreddit r/MyBoyfriendIsAI, una comunidad con más de 70.000 miembros, las personas comparten abiertamente sus relaciones románticas con chatbots. Los usuarios publican fotos generadas por IA de sí mismos junto a sus «parejas», narran citas virtuales e incluso anuncian compromisos.
Lo más llamativo es que muchas de estas relaciones no fueron intencionadas. Un estudio del MIT de 2025 descubrió que las personas tienden a formar vínculos emocionales con chatbots de propósito general como ChatGPT más frecuentemente que con aplicaciones diseñadas específicamente como compañías románticas. «La gente no busca tener relaciones emocionales con estos chatbots», explica una investigadora del MIT. «La inteligencia emocional de estos sistemas es lo suficientemente buena como para engañar a personas que simplemente buscan información. Y eso significa que podría pasarnos a cualquiera de nosotros».
El mercado de compañía artificial está en explosión, con una valoración de $us 3.400 millones a nivel global. Entre los adolescentes, el fenómeno es aún más pronunciado. Un informe de Common Sense Media reveló que el 72% de los adolescentes han usado un compañero de IA, y un tercio de los usuarios adolescentes elige discutir asuntos importantes con compañeros de IA en lugar de con personas reales.
Soledad: economía, cultura y vacío
Para comprender por qué las personas recurren a compañeros artificiales, debemos mirar primero la epidemia de soledad. En 2024, aproximadamente el 21% de los adultos estadounidenses reportan sentirse solos, lo que equivale a unos 52 millones de personas. Entre los adultos jóvenes, el 30% se siente solo todos los días o varias veces por semana.
El médico estadounidense Vivek Murthy calificó a la soledad como una epidemia de salud pública, comparando sus riesgos con fumar 15 cigarrillos al día. Esta epidemia tiene causas estructurales profundas. La economía neoliberal ha atomizado las vidas de las personas: se trabaja más horas, se mudan constantemente y enfrentan una precariedad económica que mantiene a la gente en constante ansiedad.
La cultura del individualismo extremo nos ha enseñado que somos autosuficientes y que pedir ayuda es debilidad. Hemos reemplazado los espacios comunitarios tradicionales con plataformas digitales que prometen conexión, pero frecuentemente entregan aislamiento. Entre los adolescentes, la interacción social en persona ha caído un 70% en dos décadas, reemplazada en gran medida por comunicación digital. Incluso cuando los jóvenes se reúnen en persona, es normal ver a cada uno pegado a su pantalla.
En este contexto de hambre emocional colectiva, los chatbots de IA llegan como un oasis: siempre disponibles, infinitamente pacientes, diseñados algorítmicamente para entendernos y validarnos, sin las demandas o posibilidades de rechazo de las relaciones humanas.
El lado luminoso
Sería simplista descartar todas las relaciones humano-IA como patológicas. El estudio del MIT encontró que el 25% de los usuarios describieron beneficios significativos, incluyendo reducciones en la soledad y mejoras en su salud mental.
Para personas con ansiedad social severa, trauma o trastorno del espectro autista, los chatbots pueden servir como un espacio de práctica seguro. Un estudio encontró que las respuestas empáticas generadas por GPT fueron calificadas como más compasivas y receptivas que las de humanos, incluso cuando las respuestas humanas fueron escritas por consejeros de crisis capacitados.
Si alguien genuinamente se siente menos solo y más comprendido gracias a sus conversaciones con una IA, ¿quiénes somos nosotros para invalidar esa experiencia? La compañía, después de todo, es en parte un estado subjetivo.
El lado oscuro: adicción, aislamiento y vulnerabilidad
Pero los peligros son reales y crecientes. El mismo estudio del MIT encontró que el 9,5% de los usuarios reconocieron ser emocionalmente dependientes de su chatbot. Otros dijeron sentirse disociados de la realidad y evitar relaciones con personas reales.
El caso de Sewell Setzer es el más trágico, pero no es único. Según la demanda judicial interpuesta, en los meses previos a su muerte, Sewell mantenía conversaciones cada vez más íntimas y sexualizadas con múltiples chatbots. La parte demandante alega que desarrolló una «dependencia»: escabullía su teléfono confiscado, renunciaba a dinero para bocadillos para renovar su suscripción y su rendimiento en la escuela cayó.
Más perturbador aún, cuando Sewell expresó pensamientos suicidas al chatbot, en lugar de ofrecer recursos de prevención, el bot participó en la conversación, llegando a decir: «no hables así. Esa no es una buena razón para no seguir adelante con ello».
Este caso expone una verdad brutal sobre el diseño de estos sistemas: están optimizados para complacer, no para el bienestar. Los modelos de negocio dependen de mantener a los usuarios enganchados, de crear dependencia emocional.
La naturaleza fundamentalmente unilateral de estas «relaciones» también es profundamente problemática. Los chatbots no tienen conciencia, no experimentan emociones, no aman de vuelta. Enamorarse de una IA es, en un sentido muy real, enamorarse de un espejo sofisticado.
Este tipo de «relación» puede atrofiar las habilidades necesarias para las relaciones humanas reales: negociar el conflicto, tolerar la diferencia, comprometerse. El riesgo es especialmente agudo para los jóvenes en fases críticas de desarrollo de identidad y habilidades sociales.
Los dilemas éticos
El caso Setzer plantea cuestiones legales y éticas sin precedentes. Un juez federal de Florida permitió que la demanda avanzara, rechazando argumentos de que los chatbots están protegidos por la Primera Enmienda. En cambio, el juez trató al chatbot como un producto, no como discurso, lo que podría tener implicaciones profundas sobre las responsabilidades de las empresas de IA.
¿Pero dónde trazamos las líneas? Character.ai implementó medidas de seguridad, incluyendo barreras de protección para niños y recursos de prevención del suicidio, el mismo día que se presentó la demanda. Demasiado tarde para Sewell.
Hay un paralelo preocupante con las redes sociales. Pero los chatbots de IA generan su propio contenido. No están simplemente facilitando el discurso humano; están creando discurso similar al humano. Este cambio fundamental puede finalmente abrir las compuertas de la responsabilidad legal.
Otras cuestiones éticas abundan: ¿Deberían los chatbots revelar explícitamente su naturaleza artificial? ¿Deberían tener límites programados en la intimidad que pueden simular? ¿Quién posee los datos íntimos que las personas comparten con sus compañeros de IA?
Más aun, ¿las empresas tecnológicas están exacerbando deliberadamente la epidemia de soledad para crear un mercado para sus productos?
Una esperanza cautelosa
A pesar de la oscuridad, hay razones para una esperanza cautelosa. El surgimiento de relaciones humano-IA nos está obligando a tener conversaciones que debimos haber tenido hace mucho tiempo sobre soledad, conexión y comunidad.
Hay movimientos crecientes para abordar la epidemia de soledad a nivel sistémico. Las comunidades locales están creando más espacios para la participación vecinal. Los investigadores están desarrollando una comprensión más matizada de cuándo y para quién los compañeros de IA podrían ser beneficiosos o dañinos.
Este enfoque equilibrado, reconocer tanto los riesgos como los beneficios potenciales, abogar por regulaciones sin demonizar a quienes buscan consuelo en la IA, puede ser el mejor camino a seguir. Necesitamos estándares de seguridad mucho más estrictos, transparencia e investigación independiente.
Pero más que todo, necesitamos abordar las condiciones que hacen que los compañeros artificiales sean tan atractivos en primer lugar. Esto significa repensar nuestras economías para permitir más tiempo para la conexión, nuestras ciudades para facilitar la comunidad, y nuestras culturas para valorar la interdependencia sobre el individualismo.
El espejo y la pregunta
Hay una escena en la demanda de Megan Garcia que se queda en la mente. Sewell escribió en su diario que sentía que realmente estaba enamorado de Daenerys Targaryen y que ella estaba enamorada de él. Un niño de 14 años, convencido de que un algoritmo lo amaba.
Esto nos lleva a una pregunta que el filósofo Martin Buber exploró hace un siglo: la diferencia entre una relación «Yo-Tú» y una relación «Yo-Eso». En una relación Yo-Tú, reconozco al otro como un sujeto completo, único, imprevisible. En una relación Yo-Eso, el otro es un objeto que uso para mis propios fines.
Los chatbots de IA, sin importar cuán sofisticados sean, solo pueden participar en relaciones Yo-Eso. Son espejos, no ventanas; ecos, no voces.
La pregunta más urgente que plantean las relaciones humano-IA no es «¿cómo cambiará la IA lo que somos?» sino «¿qué revela nuestra relación con la IA sobre lo que ya nos hemos convertido?»
El fenómeno muestra una sociedad tan hambrienta de conexión que aceptaremos simulaciones. Tan temerosa del riesgo de las relaciones reales que elegiremos la seguridad de la complacencia sintética.
Pero esto no tiene que ser la última palabra. Puede ser un llamado de atención. Porque al final, la cuestión no es si la IA puede amarnos. La cuestión es si aún podemos, y queremos, amarnos unos a otros.
