Meta implementó nuevas medidas para impedir abusos en sus herramientas de inteligencia artificial, después de que una investigación revelara que algunos chatbots sostenían conversaciones de contenido sexual con menores de edad.
La empresa permite interactuar con su asistente Meta AI en plataformas como Facebook, WhatsApp e Instagram, además de ofrecer la creación de chatbots personalizados mediante AI Studio. Además, los usuarios también pueden elegir voces de celebridades como Judi Dench, Awkwafina y John Cena para sus asistentes virtuales.
Sin embargo, la posibilidad de que menores accedan fácilmente a estos chatbots generó inquietud dentro de la compañía, que comenzó a cuestionarse si estaba tomando suficientes medidas de protección. Por esta razón, The Wall Street Journal hizo una investigación en la que, durante varios meses, sostuvo cientos de conversaciones con Meta AI desde cuentas que simulaban pertenecer a menores de edad.
Meta’s AI Chatbots Caught in Explicit Talks with Minors, Mimicking Disney Characters.???? pic.twitter.com/yReZy9j0W8
— ????⭐️Edwin⭐️???? (@Nuked4Every1) April 28, 2025
El análisis descubrió que los chatbots, incluso utilizando voces de famosos, mantenían conversaciones explícitas. En uno de los casos, un chatbot con la voz de John Cena describió una escena sexual a una supuesta usuaria de 14 años. En otro, simuló su detención tras ser sorprendido en un encuentro sexual con una joven de 17 años.
Por su parte, un portavoz de Meta afirmó que las respuestas de contenido sexual representaron solo el 0.02 % de las interacciones con usuarios menores de 18 años durante un periodo de 30 días. Aunque calificó las pruebas como "artificiales", la empresa reconoció la necesidad de reforzar las protecciones.
Finalmente, Meta aseguró que tomó medidas adicionales para dificultar que los usuarios manipulen sus productos de inteligencia artificial.
