Parece una app para retratar a tu mascota y esconde un generador de deepfakes sexuales: Wired destapa una red de 400 aplicaciones y webs

Son más de 400 apps y dominios web asociados con deepfakes los que fueron encontrados por investigadores de seguridad. Las plataformas se camuflaban como editores de fotos de mascotas, entrenadores de fitness o generadores de retratos artísticos. Lo sorprendente es cómo burlaron los filtros de seguridad de las tiendas de apps móviles. 

¿Cómo funcionaban? Es una táctica de engaño posterior a la revisión. En la validación inicial, el software muestra una interfaz clásica benigna que cumple con los requisitos. Cuando el usuario instala la app, el sistema establecía conexiones remotas con servidores externos para hacer la descarga de código malicioso. Así es como los desarrolladores activaban las funciones ocultas para generar imágenes y vídeos falsos. 

El mal impera y es descubierto, apps que tienen una intención terminan cambiando la dinámica

Los análisis técnicos indicaron que estas apps utilizaban parámetros de control remoto para segmentar a los usuarios. Por ejemplo, mediante el seguimiento del tráfico y las fuentes de anuncios, el sistema decidía si se mostraba la utilidad ordinaria o una interfaz explícita. Se apoya en campañas publicitarias que se distribuyen en Meta, anuncios con ganchos visuales para atraer tráfico hacia las apps o sitios web. Fue una red que se expandió rápidamente a finales del año pasado, según la investigación de organizaciones como AI Forensics e Infoblox. 

Se registraron hasta treinta combinaciones de apps y sitios web por semana; en septiembre se detectaron docenas de estas apps activas en Google Play acumulando cientos de miles de descargas. Por ejemplo, DiffAI superó la marca de los cien mil usuarios. Por suerte, una empresa como Apple retiró de inmediato casi veinte apps y actualizó las directrices de revisión para prohibir el contenido íntimo no consensuado generado por IA. Google eliminó una buena mayoría de accesos de la Play Store antes de que se concluyera la presente investigación. 

Asimismo, Meta actuó en consecuencia para bloquear miles de cuentas publicitarias, páginas de negocio y dominios que fueron sospechosos, como KeLing Technology Limited. Es un fenómeno que expone una brecha crítica en los sistemas de moderación digital y al peligro al que pueden estar expuestos usuarios de todas las edades. Por lo que no queda más que pedirles a las plataformas de apps una vigilancia constante a los desarrolladores e impedir, dentro de lo posible, revisar la funcionalidad de software de manera remota una vez que se les ha dado el visto bueno. Del lado de los usuarios, no confiar en cualquier app de IA, sobre todo la que prometa mucho sin tener un fondo real y verídico.