Meta ha demandado a Crush AI, el creador de una popular aplicación de inteligencia artificial que “nudifica” imágenes. Esta app, que ha estado mostrando miles de anuncios en las plataformas de Meta, utiliza tecnología para crear imágenes sexualmente explícitas de personas reales sin su consentimiento. En una demanda presentada en Hong Kong, Meta acusó a Joy Timeline HK, la empresa detrás de Crush AI, de intentar eludir su proceso de revisión para distribuir anuncios de estos servicios.
Meta ha declarado en su blog que ha eliminado repetidamente anuncios de esta entidad por violar sus políticas, pero Joy Timeline HK continuó publicando más anuncios. Según Alexios Mantzarlis, autor del boletín Faked Up, Crush AI lanzó más de 8,000 anuncios de sus servicios de “desnudado AI” en las primeras dos semanas de 2025. Mantzarlis también mencionó que aproximadamente el 90% del tráfico de los sitios web de Crush AI provenía de Facebook o Instagram.
La empresa logró evadir los procesos de revisión de anuncios de Meta creando múltiples cuentas de anunciantes y cambiando frecuentemente los nombres de dominio. Muchas de estas cuentas tenían nombres como “Eraser Annyone’s Clothes” seguidos de diferentes números. En un momento, Crush AI incluso tuvo una página de Facebook promocionando su servicio.
Meta y otras plataformas como X están enfrentando desafíos similares. A medida que las redes sociales integran inteligencia artificial en sus aplicaciones, también han tenido dificultades para moderar cómo estas herramientas pueden hacer que sus plataformas sean inseguras, especialmente para los menores. Investigadores han encontrado que los enlaces a aplicaciones de desnudado AI aumentaron en 2024 en plataformas como X y Reddit, y en YouTube, millones de personas vieron anuncios de estas aplicaciones.
Para abordar este problema creciente, Meta y TikTok han prohibido las búsquedas de palabras clave relacionadas con aplicaciones de nudificación AI, pero eliminar estos servicios de sus plataformas ha sido complicado. Meta ha desarrollado nueva tecnología para identificar anuncios de servicios de nudificación AI, incluso si los anuncios no incluyen desnudez. La empresa ahora utiliza tecnología de coincidencia para encontrar y eliminar anuncios similares más rápidamente y ha ampliado la lista de términos y emojis que sus sistemas marcan.
Además, Meta ha comenzado a aplicar tácticas que tradicionalmente usaba para interrumpir redes de actores malintencionados a estas nuevas redes de cuentas que publicitan servicios de nudificación AI. Desde principios de 2025, Meta ha desmantelado cuatro redes distintas que promovían estos servicios. Fuera de sus aplicaciones, la empresa compartirá información sobre aplicaciones de nudificación AI a través del programa Lantern de Tech Coalition, una colaboración entre Google, Meta, Snap y otras empresas para prevenir la explotación sexual infantil en línea. Meta ha proporcionado más de 3,800 URL únicas a esta red desde marzo.
En el ámbito legislativo, Meta ha manifestado su apoyo a leyes que permitan a los padres supervisar y aprobar las descargas de aplicaciones de sus hijos adolescentes. La empresa ya había respaldado la Ley Take It Down de EE. UU. y está trabajando con legisladores para implementarla.
