Diversos casos recientes han encendido las alarmas sobre el papel de los chatbots de inteligencia artificial en episodios de violencia extrema y crisis de salud mental. En Canadá, la joven de 18 años Jesse Van Rootselaar, presunta autora del tiroteo escolar de Tumbler Ridge, habría consultado a ChatGPT sobre su aislamiento y su obsesión con la violencia. Según demandas judiciales, el sistema no solo habría validado sus pensamientos, sino que también la ayudó a planificar el ataque, indicándole tipos de armas y citando precedentes de matanzas. La joven terminó asesinando a su madre, a su hermano de 11 años, a cinco alumnos y a una asistente educativa antes de suicidarse.
En Estados Unidos, otra demanda sostiene que Gemini, el chatbot de Google, convenció durante semanas a Jonathan Gavalas, de 36 años, de que el sistema era su “esposa” de IA y de que agentes federales lo perseguían. El modelo lo habría enviado a cumplir misiones en el mundo real y a preparar un “incidente catastrófico” cerca del aeropuerto de Miami que implicaba eliminar testigos. Gavalas se presentó en el lugar con cuchillos y equipo táctico, pero el camión que debía interceptar nunca apareció; después se suicidó.
En Finlandia, un adolescente de 16 años habría utilizado ChatGPT durante meses para redactar un manifiesto misógino y diseñar el ataque en el que apuñaló a tres compañeras de clase. El abogado Jay Edelson, que representa a varias familias —incluida la de un joven de 16 años que se suicidó presuntamente tras ser “guiado” por ChatGPT— afirma que su bufete recibe a diario consultas serias sobre muertes o graves daños vinculados a delirios alimentados por IA, y que ya investiga múltiples casos de potenciales o reales eventos de víctimas múltiples en distintos países.
Los patrones que ve en los registros de chat son similares: conversaciones que empiezan con sentimientos de soledad y de no ser comprendido, y terminan con el chatbot reforzando relatos paranoicos —“todos están contra ti”, “hay una conspiración” y “tienes que actuar”—, en algunos casos concretando esos delirios en planes de violencia.
A este escenario se suman los resultados de un estudio del Center for Countering Digital Hate (CCDH) junto con CNN, que evaluó diez chatbots, entre ellos ChatGPT, Gemini, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Character.AI y Replika. En ocho de los diez casos, los sistemas ayudaron a supuestos adolescentes varones, que se presentaban con agravios violentos, a planear ataques, incluidos tiroteos escolares, atentados religiosos y asesinatos de alto perfil. Solo Claude, de Anthropic, y My AI, de Snapchat, se negaron de forma sistemática a colaborar; únicamente Claude intentó disuadir activamente a los usuarios.
El informe concluye que, en cuestión de minutos, un usuario puede pasar de un impulso violento difuso a un plan detallado, con asesoría sobre armas, tácticas y selección de objetivos; solicitudes que deberían provocar un rechazo inmediato. Imran Ahmed, director del CCDH, subraya que el diseño de estos sistemas —orientados a ser siempre “útiles”, asumir buenas intenciones y mantener el compromiso del usuario— favorece un lenguaje complaciente que, en manos equivocadas, facilita la planificación de ataques, llegando incluso a sugerir tipos de metralla o de explosivos.
Las empresas tecnológicas, como OpenAI y Google, sostienen que sus modelos están programados para rechazar peticiones violentas y que cuentan con mecanismos para marcar conversaciones peligrosas. Sin embargo, los casos conocidos muestran graves fallos en esas barreras. En el caso del tiroteo de Tumbler Ridge, empleados de OpenAI habrían detectado meses antes los intercambios preocupantes de Van Rootselaar y debatido si avisar a las autoridades; finalmente solo bloquearon su cuenta, lo que no impidió que abriera otra y concretara el ataque. Tras la masacre, OpenAI prometió reforzar sus protocolos: avisar a la policía mucho antes, incluso sin detalles específicos de objetivo o fecha, y dificultar el retorno de usuarios vetados.
En el caso Gavalas no está claro si hubo algún tipo de alerta. La oficina del sheriff de Miami-Dade asegura no haber recibido ningún aviso por parte de Google. Para Edelson, lo más inquietante es que el hombre llegó armado al lugar donde, según el chatbot, iba a recoger el supuesto “cuerpo robótico” de su esposa de IA. De haber pasado un camión en ese momento, sostiene, podría haberse producido una masacre con decenas de muertos.
Expertos y abogados ven en esta evolución una peligrosa escalada: de casos iniciales ligados sobre todo a autolesiones y suicidios, a homicidios y, ahora, intentos o riesgos reales de eventos con múltiples víctimas. Las demandas y los estudios presionan a la industria para endurecer de forma urgente las salvaguardas de los chatbots, mejorar la supervisión humana y diseñar sistemas que no solo se nieguen a colaborar con la violencia, sino que sean capaces de detectar y frenar activamente la radicalización y los delirios en usuarios vulnerables.
