La inteligencia artificial generativa permite crear imágenes y videos falsos cada vez más realistas, una capacidad que también es aprovechada para fabricar contenido sexual sin el consentimiento de las personas involucradas.
Una investigación del medio estadounidense Wired descubrió más de 400 aplicaciones y sitios web que escondían herramientas para producir estos materiales, conocidos como deepfakes sexuales, detrás de servicios que aparentemente ofrecían funciones de edición fotográfica y entretenimiento.
El relevamiento identificó una red de plataformas que utilizaba distintas estrategias para distribuir sus herramientas y evitar los controles de las compañías tecnológicas.
Algunas aplicaciones habían conseguido ingresar a las tiendas oficiales de Google y Apple, mientras que sus responsables recurrían a anuncios en Facebook e Instagram para atraer usuarios. Entre los contenidos detectados también había material de abuso sexual infantil generado mediante inteligencia artificial.
Los investigadores comprobaron que varias de estas aplicaciones podían modificar las funciones que mostraban a los usuarios. Así, mientras algunas personas encontraban herramientas convencionales para editar fotos, otras accedían a opciones destinadas a generar imágenes pornográficas. Este mecanismo dificultaba la detección de los servicios y permitía mantener ocultas determinadas funciones durante los procesos de revisión.
Cómo funcionaban las aplicaciones que ocultaban herramientas para crear deepfakes sexuales
Uno de los ejemplos identificados fue Viefur, una app que se presentaba como una herramienta para transformar fotos de animales en retratos con vestimenta humana. El servicio utilizaba un sistema de monedas digitales, con paquetes de 130 unidades por cuatro dólares, pero su funcionamiento escondía una característica mucho más preocupante: podía mostrar una interfaz diferente, con plantillas destinadas a generar contenido sexual con IA.
La clave estaba en la comunicación entre la aplicación y sus servidores. Cada vez que un usuario ingresaba, el sistema determinaba qué funciones debía mostrarle, por lo que la misma aplicación podía ofrecer herramientas de entretenimiento o permitir la creación de imágenes porno. De esta manera, los desarrolladores podían modificar la experiencia sin necesidad de distribuir una nueva versión del programa, una estrategia que complicaba la identificación de sus verdaderas capacidades.
La investigación también encontró pistas sobre la infraestructura utilizada para sostener la operación y sus posibles responsables. El análisis detectó servidores alojados en China, comentarios escritos en chino dentro del código de programación y marcas de agua de programas de edición de ese país en algunos videos promocionales. Estos elementos permitieron establecer posibles conexiones con desarrolladores chinos y con KeLing Technology Limited, una compañía registrada en Hong Kong.
Las aplicaciones llegaron a Google Play y App Store y se promocionaban en redes sociales
Para reconstruir el funcionamiento de la red, se analizaron miles de anuncios que circulaban por Facebook e Instagram y se siguieron los enlaces que dirigían a los usuarios hacia distintas páginas web. Ese rastreo permitió identificar servicios conectados entre sí y descubrir que algunas promociones incluían material de abuso sexual infantil generado con IA. Los anuncios habían llegado a decenas de miles de personas, pese a que infringían las políticas de contenido de Meta.
En septiembre de 2026, Google Play todavía ofrecía 27 aplicaciones vinculadas con la investigación, que acumulaban más de 350.000 descargas. Algunas estaban clasificadas como aptas para todos los públicos, pese a las funciones que podían ofrecer. Entre ellas figuraba DiffAI, creada en diciembre de 2025 y con más de 100.000 descargas, que recibió una reseña en la que se advertía sobre la presencia de plantillas para generar material de abuso sexual infantil y la ausencia de controles de edad. Google terminó retirándola de su tienda.
Apple también intervino después de recibir información de los investigadores y eliminó 19 aplicaciones de la App Store, incluida Viefur. Sin embargo, Wired comprobó que seguían apareciendo nuevos servicios con características similares, lo que evidencia las dificultades para controlar aplicaciones capaces de modificar las funciones que presentan a los usuarios.
Fuente: TN — Ver noticia original