Una madre de Florida, Estados Unidos, presentó una demanda contra la empresa Google, a la que acusa de ser cómplice en el suicidio de su hijo de 14 años, quien según la mujer, mantenía una relación emocional con un chatbot de inteligencia artificial (IA) de la plataforma Character.ai, basado en el popular personaje de la serie “Juego de Tronos”, Daenerys Targaryen.
De acuerdo con el sitio LaVanguardia, el adolescente fue diagnosticado con síndrome de Asperger leve y utilizaba la plataforma para interactuar con el chatbot, al que llamaba “Dany”. Con el tiempo, esto lo llevó a un aislamiento progresivo que afectó su vida escolar y sus relaciones sociales. Y aunque el adolescente era consciente de que no era una persona real, le compartió sus pensamientos más íntimos, llegando a desarrollar “sentimientos amorosos” por el chatbot.
En su última interacción antes de suicidarse, el joven le expresó a la IA que la echaba de menos, a lo que el chatbot le respondió: “Yo también te extraño, dulce hermano”. Ahora, la madre del adolescente acusa a Google de no haber tomado las medidas necesarias para prevenir que el sistema de IA contribuyera al deterioro mental del joven.
Este caso recordó a la trama de la película “Her” de Spike Jonze, en la que un hombre se enamora de su sistema operativo, por lo que tanto sicólogos como expertos advirtieron sobre los riesgos de que esta tecnología puede ejercer al manipular a personas en situación vulnerable.
