Los motores de búsqueda en la web enfrentan el creciente problema contra los ahora populares deepfakes porno no consensuados. Estas representaciones engañosas y explícitas, creadas con inteligencia artificial (IA), se han propagado a un ritmo alarmante, amenazando la privacidad y la dignidad en línea de las personas.
Desde su primera aparición hace cinco años, los deepfakes son usados para agredir y acosar constantemente a las mujeres, al superponer sus rostros en contenido pornográfico sin su consentimiento. Con el avance de las tecnologías de IA y un ecosistema de deepfakes en constante expansión, la cantidad de estos engaños que suplantan a personas sigue creciendo exponencialmente.
Una investigación compartida por el portal Wired destaca la gravedad del problema al estimar que en los últimos siete años se han subido al menos 244,626 videos deepfake a 35 sitios web dedicados a la pornografía, ya sea total o parcial.
Sin embargo, la tendencia se volvió más alarmante en 2023, ya que durante los primeros nueve meses se subieron 113,000 videos a sitios web, representando un aumento del 54 % en comparación a los 73,000 que se subieron durante todo 2022. Por lo que se pronostica que a finales de diciembre se habrán producido más videos en 2023 que la suma total de los dos años anteriores.
.jpg)
Este problema dio lugar a una industria que se enfoca principalmente en mujeres y que opera sin su consentimiento ni conocimiento. Además, existen aplicaciones que permiten "desvestir" a personas en fotos con solo unos pocos clics.
Sophie Maddocks, investigadora de derechos digitales y violencia cibersexual en la Universidad de Pensilvania, subraya que este problema afecta a personas comunes, desde estudiantes de secundaria hasta adultos. La facilidad con la que se pueden crear y compartir estas imágenes está contribuyendo a su proliferación, y se considera un problema que requiere atención y medidas regulatorias urgentes.
Ante este problema, los expertos sugieren la necesidad de nuevas leyes y regulaciones, así como una mayor educación sobre estas tecnologías. Además, instaron a las empresas que alojan sitios web y a los motores de búsqueda a tomar medidas para reducir la propagación de deepfakes no consensuados.
