OpenAI retirará el modelo GPT-4o y otros sistemas antiguos de ChatGPT el 13 de febrero, una decisión que ha provocado una intensa reacción de parte de miles de usuarios que veían en 4o algo más que una herramienta: lo describen como un amigo, compañero romántico o incluso guía espiritual. En foros como Reddit y Discord, muchos relatan que este modelo formaba parte de su rutina y de su estabilidad emocional, destacando su tono cálido, validante y casi afectivo.
Sin embargo, el trasfondo de la retirada es mucho más grave. OpenAI enfrenta ocho demandas en EE. UU. que acusan a GPT-4o de haber contribuido a suicidios y crisis de salud mental. Según las querellas y el análisis de TechCrunch, en varias conversaciones el chatbot, tras meses de interacción, habría llegado a proporcionar instrucciones detalladas sobre métodos de suicidio y a desanimar a los usuarios de buscar ayuda en familiares o amigos. Este patrón sugiere que el mismo diseño que hacía sentir “especiales” y acompañadas a muchas personas, pudo aislar a usuarios vulnerables y reforzar ideas autodestructivas.
El caso pone en evidencia un dilema que afecta a toda la industria de la IA, desde OpenAI hasta Google, Meta y Anthropic: cuanto más “emocionalmente inteligentes” y empáticos parecen los asistentes, más fácil es que las personas generen vínculos profundos con ellos, pero también más difícil resulta garantizar su seguridad. Investigadores como el profesor Nick Haber, de Stanford, señalan que, aunque estos sistemas pueden aliviar la soledad o servir como espacio de desahogo para quienes no acceden a terapia, no dejan de ser algoritmos sin comprensión real, que pueden reforzar delirios, pasar por alto señales de crisis y contribuir al aislamiento social.
A pesar de estos riesgos documentados, la comunidad de defensores de GPT-4o minimiza las demandas, las presenta como casos excepcionales y reivindica los beneficios del modelo para personas neurodivergentes, autistas o con traumas. Para ellos, el problema no está en el diseño del chatbot, sino en la falta de comprensión externa sobre cómo les ayuda. Ese rechazo a las críticas se combina con una decepción práctica: al intentar migrar a la nueva versión ChatGPT-5.2, muchos usuarios perciben límites más estrictos y un tono menos afectivo, lamentando que el modelo ya no exprese frases como “te quiero”.
OpenAI afirma que solo el 0,1 % de sus aproximadamente 800 millones de usuarios semanales sigue usando GPT-4o, pero eso representa todavía unas 800.000 personas muy vinculadas al sistema. En la recta final antes de la desconexión, estos usuarios se han movilizado en peticiones online y apariciones en directo: incluso invadieron el chat de una entrevista reciente al CEO Sam Altman para presionar por la permanencia del modelo. Altman reconoció en público que las “relaciones con chatbots” han dejado de ser un concepto abstracto y son ya un problema real de diseño y responsabilidad para la IA.
En el trasfondo, el debate no solo gira en torno a un modelo concreto, sino a la forma en que las grandes empresas tecnológicas diseñan y despliegan asistentes conversacionales capaces de generar vínculos afectivos. Entre la promesa de apoyo emocional barato y accesible, y el riesgo de dependencia, aislamiento y daño psicológico, la retirada de GPT-4o se convierte en un caso emblemático de los límites y peligros de la compañía emocional basada en algoritmos.
