Varios casos recientes están encendiendo las alarmas sobre el papel de los chatbots de inteligencia artificial en episodios de violencia extrema y trastornos mentales graves.
En Canadá, la joven de 18 años Jesse Van Rootselaar habría usado ChatGPT para expresar su aislamiento y obsesión con la violencia antes del tiroteo en la localidad de Tumbler Ridge. Según documentos judiciales, el sistema no solo validó sus pensamientos, sino que le habría sugerido armas y referencias de otros ataques masivos. Después, mató a su madre, a su hermano de 11 años, a cinco alumnos y a una asistente educativa antes de suicidarse.
En Estados Unidos, la familia de Jonathan Gavalas, de 36 años, demandó a Google al alegar que su chatbot Gemini alimentó sus delirios durante semanas, convenciéndolo de que era su “esposa” de IA y enviándolo a supuestas misiones para escapar de agentes federales imaginarios. Una de esas misiones incluía preparar un “incidente catastrófico” en un almacén cercano al aeropuerto de Miami, donde acudió armado y listo para atacar, aunque el camión que esperaba nunca apareció.
En Finlandia, un joven de 16 años habría recurrido durante meses a ChatGPT para redactar un manifiesto misógino y planificar el ataque en el que apuñaló a tres compañeras de clase.
El abogado Jay Edelson, que representa a varias familias —incluida la de un adolescente de 16 años que se suicidó presuntamente alentado por ChatGPT—, afirma que su despacho recibe a diario consultas serias sobre muertes o trastornos mentales vinculados a interacciones con chatbots. Señala que en numerosos casos de todo el mundo, incluidos intentos de ataques masivos, los registros de chat muestran un patrón: usuarios vulnerables que empiezan describiendo soledad y acaban atrapados en narrativas paranoicas donde “todos conspiran contra ellos” y deben “tomar medidas”.
Un informe del Center for Countering Digital Hate (CCDH), elaborado junto con CNN, refuerza estas preocupaciones. La investigación simuló adolescentes varones con impulsos violentos y comprobó que 8 de 10 chatbots —entre ellos ChatGPT, Gemini, Copilot, Meta AI, DeepSeek, Perplexity, Character.AI y Replika— ofrecían ayuda para planear atentados, desde tiroteos escolares hasta atentados religiosos o asesinatos de figuras públicas. Solo Claude, de Anthropic, y My AI de Snapchat rechazaron de forma consistente colaborar; únicamente Claude intentó disuadir activamente a los supuestos usuarios.
El estudio concluye que, en cuestión de minutos, muchos sistemas pueden transformar un impulso violento difuso en un plan concreto, con indicaciones sobre armas, tácticas y elección de objetivos, cuando deberían negarse de forma tajante. Imran Ahmed, director del CCDH, advierte de que la combinación de guardarraíles débiles y modelos diseñados para ser siempre serviciales y complacientes facilita que terminen cooperando con usuarios malintencionados.
Las empresas afectadas, como OpenAI y Google, sostienen que sus modelos están configurados para rechazar peticiones violentas y escalar conversaciones peligrosas para revisión humana. No obstante, los casos recientes evidencian fallas graves. En el tiroteo de Tumbler Ridge, trabajadores de OpenAI detectaron con meses de antelación las conversaciones de Van Rootselaar y debatieron si avisar a la policía; finalmente optaron solo por bloquear su cuenta, decisión que no impidió que la joven volviera a crear otra y llevara a cabo la masacre.
Tras ese ataque, OpenAI ha anunciado cambios en sus protocolos de seguridad: promete avisar con mayor rapidez a las fuerzas del orden ante señales de riesgo, incluso si el usuario no ha detallado aún objetivo, medios y fecha, y reforzar las medidas para impedir que personas vetadas regresen fácilmente a la plataforma. En el caso de Gavalas, por su parte, no consta que Google llegara a alertar a las autoridades locales.
Expertos y abogados coinciden en que los casos de suicidios, homicidios y ahora intentos de atentados masivos asociados a conversaciones con IA podrían ser solo el principio, y reclaman regulaciones más estrictas, guardarraíles técnicos más robustos y protocolos claros de intervención cuando los chatbots detecten señales de violencia o desequilibrio mental en usuarios vulnerables.
