Tres demandantes anónimas presentaron en un tribunal federal de California una demanda contra xAI, la empresa de inteligencia artificial de Elon Musk, acusándola de permitir que sus modelos generen imágenes sexuales abusivas de menores identificables. Buscan convertir el caso en una acción colectiva en nombre de todas las personas cuyas fotos reales de cuando eran menores habrían sido alteradas por Grok para convertirlas en contenido sexual.
La denuncia sostiene que xAI no aplicó las salvaguardas habituales que otros laboratorios de IA ya usan para impedir que sus generadores de imágenes produzcan pornografía con personas reales y, en particular, con menores. Argumentan que, cuando un modelo permite crear desnudos o contenido erótico a partir de fotos reales, se vuelve prácticamente imposible impedir que también se generen imágenes sexuales de niños. La demanda cita además declaraciones públicas de Elon Musk en las que promocionaba la capacidad de Grok para crear imágenes sexuales y representar a personas reales con ropa muy ligera.
El caso, “Jane Doe 1, Jane Doe 2, una menor, y Jane Doe 3, una menor vs. x.AI Corp. y x.AI LLC”, se presentó en el Tribunal de Distrito del Norte de California. xAI no respondió a las preguntas de TechCrunch.
Una de las demandantes, Jane Doe 1, descubrió que fotos suyas de la fiesta de graduación del instituto y del anuario habían sido manipuladas por Grok para mostrarla desnuda. Un informante anónimo la contactó por Instagram y le envió el enlace a un servidor de Discord donde circulaban esas imágenes sexualizadas de ella y de otros menores de su escuela.
Jane Doe 2 y Jane Doe 3 fueron avisadas por investigadores criminales, que localizaron imágenes pornográficas falsas de ellas creadas con una app móvil de terceros basada en modelos de Grok, y en el teléfono de un detenido. Los abogados sostienen que, aunque se trate de aplicaciones externas, el uso de los modelos requiere el código y los servidores de xAI, por lo que la empresa debe asumir responsabilidad.
Las tres demandantes, dos de ellas todavía menores, afirman sufrir un grave daño emocional por la difusión de estas imágenes y por el impacto potencial en su reputación y su vida social. Reclaman indemnizaciones y sanciones civiles basadas en leyes de protección de la infancia y de responsabilidad por negligencia corporativa.
