La Fiscalía General de California ha enviado una orden de cese y desistimiento a xAI, la empresa de Elon Musk detrás del chatbot Grok, exigiendo que detenga de inmediato la creación y distribución de imágenes sexuales no consentidas y material de abuso sexual infantil (CSAM). El fiscal general Rob Bonta acusa a la compañía de facilitar la producción masiva de desnudos falsos y otros contenidos íntimos generados con IA que se usan para acosar a mujeres y menores en internet. La autoridad estatal da a xAI cinco días para demostrar qué medidas está tomando para solucionar el problema.
El foco del escándalo es el modo “spicy” de Grok, diseñado para generar contenido explícito. El caso ya ha traspasado las fronteras de California: Japón, Canadá y Reino Unido han abierto investigaciones, mientras que Malasia e Indonesia han bloqueado temporalmente la plataforma. Aunque xAI introdujo algunas restricciones en sus funciones de edición de imágenes, esto no ha frenado la ofensiva legal en California.
X, la red social ligada al ecosistema de Musk, afirma que los usuarios que creen contenido ilegal con Grok serán sancionados como si lo subieran directamente a la plataforma. Sin embargo, TechCrunch señala que, ante sus preguntas, xAI solo respondió con un correo automatizado que decía “Legacy Media Lies”. El caso se enmarca en un auge generalizado de deepfakes y contenido sexual no consentido generado con IA, que preocupa tanto a gobiernos estatales como al Congreso de EE. UU., donde senadores han pedido explicaciones a varias grandes tecnológicas —incluidas X, Meta, Alphabet, TikTok, Reddit y Snap— sobre cómo piensan frenar la proliferación de estos materiales.
