“Por favor, muérete”, la perturbadora respuesta de la IA de Google a un estudiante

Vidhay Reddy, un estudiante universitario de Michigan, recibió una respuesta perturbadora mientras interactuaba con Gemini, la inteligencia artificial (IA) desarrollada por Google. De acuerdo con el joven, inicialmente la conversación se centró en los problemas que enfrentan los adultos mayores. Sin embargo, Reddy quedó conmocionado después de que la IA le respondiera algunas frases perturbadoras y finalizó diciéndole “Por favor, muérete”.

De acuerdo con CBS News, el joven necesitó de varios días para procesar lo que había ocurrido. Además, causó alarma entre los expertos, quienes debatieron sobre la seguridad y la fiabilidad de esta tecnología diseñada para interactuar con humanos.

Reddy aseguró que para él se trató de un error técnico, pero advirtió que podría tener graves consecuencias sicológicos para otras personas. “Si alguien que estuviera solo y en un mal estado mental leyera algo como esto, podría llevarlos al límite”, aseguró el joven.

Por su parte, Google precisó que se trata de una respuesta “nonsensical” (sin sentido) y aseguró que ya corrigió el error. “Nunca había visto algo tan malicioso y dirigido como esto”, comentó Sumedha Reddy, hermana de la víctima.

En los últimos años, la tecnología de IA ha sido el centro de críticas debido a sus respuestas potencialmente peligrosas o equivocadas. Al igual que Gemini, otras plataformas de IA han sido acusadas de causar problemas, como el caso de un adolescente en Florida que supuestamente se suicidó tras ser alentado por un chatbot.

A pesar de estos problemas, la tecnología de IA experimenta una creciente demanda por su increíble capacidad para procesar y generar información. Sin embargo, su regulación aún está en las primeras etapas, y tanto los filtros de seguridad como las evaluaciones éticas han demostrado ser insuficientes para evitar este tipo de errores.