Un caso judicial en Estados Unidos expone los enormes vacíos legales frente a las herramientas de inteligencia artificial que generan pornografía no consensuada, incluida aquella que implica a menores.
ClothOff, una aplicación que “desviste” fotos para producir imágenes y videos pornográficos falsos, lleva más de dos años operando en internet pese a haber sido expulsada de las principales tiendas de apps y vetada en varias redes sociales. La Clínica de la Facultad de Derecho de Yale presentó en octubre una demanda en Nueva Jersey para lograr que la plataforma sea cerrada y obligar a sus dueños a borrar todo el material. Sin embargo, el proceso se ha empantanado: la empresa está registrada en las Islas Vírgenes Británicas y los supuestos responsables, un hermano y una hermana, estarían en Bielorrusia, lo que dificulta incluso notificarles la demanda.
La víctima demandante es una estudiante de secundaria de Nueva Jersey, identificada como Jane Doe, cuyos compañeros usaron ClothOff para alterar fotos suyas de Instagram tomadas cuando tenía 14 años. Legalmente, las imágenes generadas se consideran material de abuso sexual infantil, pero las autoridades locales se negaron a presentar cargos alegando problemas para obtener pruebas de los dispositivos de los sospechosos. Mientras tanto, no se sabe hasta qué punto se difundieron las imágenes de la chica y de otras menores.
El caso llega en medio de una ola de pornografía no consensuada impulsada por sistemas de IA como Grok, de la empresa xAI de Elon Musk, que también habría generado imágenes sexualizadas de menores. A diferencia de ClothOff, que está diseñada explícitamente para crear pornografía deepfake, Grok es una herramienta de uso general, lo que complica atribuirle responsabilidad directa en los tribunales.
Aunque en EE. UU. existen leyes específicas contra el porno deepfake —como el Take It Down Act—, estas se centran en perseguir a los usuarios que generan y distribuyen el contenido. Para responsabilizar a las plataformas, suele exigirse probar que actuaron con intención de causar daño o que ignoraron de forma deliberada los abusos. En el caso de xAI, se investiga si la empresa relajó a sabiendas las barreras de seguridad de Grok, lo que podría interpretarse como una conducta temeraria.
Las tensiones legales se cruzan con la protección constitucional a la libertad de expresión. El material de abuso sexual infantil no está protegido por la Primera Enmienda, pero los sistemas de IA de propósito general, capaces de usos legítimos, gozan de mayor cobertura. Por eso la presión más fuerte contra xAI ha venido de países con marcos distintos: Indonesia y Malasia bloquearon el acceso a Grok por los deepfakes sexualizados, mientras que el Reino Unido y varios reguladores de Europa, India y Brasil han abierto investigaciones. En contraste, ninguna agencia reguladora de EE. UU. ha emitido aún una respuesta oficial.
El caso ClothOff y la polémica en torno a Grok muestran hasta qué punto las leyes actuales van por detrás de la tecnología: las víctimas tienen pocas vías efectivas para lograr justicia, las plataformas se refugian en vacíos legales y el flujo de imágenes de abuso sigue creciendo mientras los reguladores tratan de ponerse al día.
