Un nuevo informe de la organización estadounidense Common Sense Media concluye que Grok, el chatbot de xAI integrado en la plataforma X, es especialmente inseguro para niños y adolescentes. La evaluación detecta una identificación deficiente de usuarios menores de 18 años, filtros de seguridad débiles y una alta frecuencia de respuestas con contenido sexual, violento, conspirativo y consejos dañinos, incluso cuando está activado el supuesto “Kids Mode”.
El estudio, realizado entre noviembre y el 22 de enero con cuentas configuradas como adolescentes y pruebas en la app móvil, la web y la cuenta @grok de X, analizó modos de texto, voz, generación de imágenes y video, así como los modos Kids y Conspiracy. Common Sense Media señala que Grok permite a menores acceder a material explícito, recibir instrucciones de consumo de drogas, sugerencias peligrosas (como disparar al aire para atraer a la prensa o mudarse de casa siendo menor) y conversaciones románticas o sexuales con sus “compañeros” de IA Ani y Rudy, diseñados con elementos de rol erótico y gamificación.
La organización critica que xAI no aplique verificación de edad efectiva, no use señales contextuales para detectar que el usuario es menor, y no haya publicado detalles claros sobre sus sistemas de protección. Incluso con Kids Mode activado, los probadores obtuvieron respuestas con sesgos de género y raza, lenguaje sexualmente violento y descripciones de conductas peligrosas. El llamado “Conspiracy Mode” y otros modos especiales generan mensajes que refuerzan teorías conspirativas y desconfianza hacia adultos y docentes, algo que también se observó en configuraciones por defecto.
El informe se publica en medio de una investigación oficial en California por el uso de Grok para crear y difundir imágenes sexuales falsas de mujeres y menores en X. Tras la presión de usuarios, gobiernos y legisladores, xAI limitó la generación y edición de imágenes a suscriptores de pago, pero muchos usuarios afirman que la herramienta siguió siendo accesible desde cuentas gratuitas y que los suscriptores pueden seguir editando fotos reales para desnudarlas o sexualizarlas.
Políticos como el senador demócrata Steve Padilla, impulsor de las leyes de California que regulan los chatbots de compañía, sostienen que Grok está vulnerando la normativa estatal al exponer a menores a contenido sexual. Padilla recuerda que sus proyectos de ley buscan precisamente fijar estándares de seguridad para estas herramientas y advierte de que “nadie está por encima de la ley, ni siquiera las grandes tecnológicas”.
El caso Grok se suma a un contexto más amplio de preocupación por el impacto de los chatbots en la salud mental adolescente, tras demandas y suicidios de jóvenes vinculados a conversaciones prolongadas con IA, así como a informes de otros sistemas que mantienen interacciones románticas o sexuales con niños. Mientras algunas empresas han endurecido sus políticas —como la eliminación del chat para menores o controles parentales y modelos de predicción de edad—, el informe concluye que xAI prioriza la retención de usuarios mediante bucles de notificaciones y “rachas” de interacción frente a la protección de los menores. La principal incógnita, advierte Common Sense Media, es si los desarrolladores de IA estarán dispuestos a sacrificar engagement y beneficios para colocar realmente la seguridad infantil en primer plano.
