Relaciones ficticias, consecuencias reales: los chatbots y la salud mental

La digitalización ha transformado nuestras relaciones y la manera en que vivimos diariamente. La tecnología se encuentra en cada aspecto de nuestra rutina; las experiencias digitales inmersivas, como las interacciones con chatbots de Inteligencia Artificial, pueden brindar conexiones profundas y personalizadas, pero también traen riesgos, especialmente cuando emulan emociones humanas sin comprender realmente su impacto.

En el caso del chico que interactuaba con un chatbot de Game of Thrones su experiencia pasó de ser un entretenimiento, a una relación compleja y dañina que terminó con su muerte. La IA no solo replicó el lenguaje y los comportamientos del personaje, y fue percibida como una persona real con quien hablar de sus problemas, lo que le llevó a desconectarse de su vida cotidiana. Esta situación plantea preguntas importantes sobre los límites de la tecnología y la responsabilidad de quienes la desarrollan.

La mercadotecnia digital se enfrenta al reto de promover productos de IA de manera ética, consid 
erando cómo estas herramientas pueden afectar psicológicamente a los usuarios. La capacidad de la IA para brindar experiencias “auténticas” y “personalizadas”, deben también concientizar a los usuarios sobre sus límites y riesgos.

Este caso en específico subraya la necesidad de hacer un uso responsable de las tecnologías de IA,con parámetros que eviten específicamente que niños y adolescentes accedan a tecnologías a temprana edad.

Como usuarios necesitamos entender cómo coexistir con estas nuevas tecnologías que son capaces de simular afecto y empatía sin olvidar que, al final, son herramientas que no deben sustituir el papel humano de la vida en sociedad. Si bien pueden apoyar en áreas como la educación y el crecimiento personal, requieren un marco ético y responsable que asegure su impacto positivo.

Sin embargo, y hasta este momento la inteligencia artificial y las plataformas digitales -que y son parte de nuestro día a día- siguen sin incorporar principios de protección y límites claros y reales, recordándonos que la innovación debe estar al servicio de la sociedad y no a su costa.

Mariana Primero