Los modelos de inteligencia artificial pueden responder a texto, audio y video de maneras que a veces engañan a las personas, haciéndoles pensar que un humano está detrás de la pantalla. Sin embargo, esto no significa que sean conscientes. Por ejemplo, ChatGPT no siente tristeza al hacer mis impuestos… ¿verdad? Un número creciente de investigadores en inteligencia artificial, como los de Anthropic, se están preguntando si algún día los modelos de IA desarrollarán experiencias subjetivas similares a las de los seres vivos y, si eso sucede, qué derechos deberían tener.
El debate sobre si los modelos de IA podrían llegar a ser conscientes y merecer derechos está dividiendo a los líderes tecnológicos de Silicon Valley. Este nuevo campo se conoce como “bienestar de la IA”. El CEO de IA de Microsoft, Mustafa Suleyman, publicó un artículo en su blog argumentando que el estudio del bienestar de la IA es “prematuro y, francamente, peligroso”. Suleyman sostiene que al dar credibilidad a la idea de que los modelos de IA podrían ser conscientes, los investigadores están agravando problemas humanos, como los episodios psicóticos inducidos por la IA y los vínculos poco saludables con chatbots. Además, argumenta que esta conversación sobre el bienestar de la IA crea una nueva división en la sociedad sobre los derechos de la IA, en un “mundo ya agitado por argumentos polarizados sobre identidad y derechos”. Aunque las opiniones de Suleyman pueden parecer razonables, se opone a muchos en la industria.
Por otro lado, Anthropic ha estado contratando investigadores para estudiar el bienestar de la IA y recientemente lanzó un programa de investigación dedicado a este concepto. La semana pasada, su programa de bienestar de la IA otorgó a algunos de sus modelos una nueva función: Claude ahora puede finalizar conversaciones con humanos que son “persistente y dañinamente abusivos”.
Más allá de Anthropic, investigadores de OpenAI también han adoptado la idea de estudiar el bienestar de la IA. Google DeepMind publicó recientemente una oferta de trabajo para un investigador que estudie “preguntas sociales de vanguardia sobre la cognición de las máquinas, la conciencia y los sistemas multiagente”. Aunque el bienestar de la IA no es una política oficial para estas empresas, sus líderes no están criticando públicamente esta idea como lo hace Suleyman.
Suleyman tiene una postura firme contra el bienestar de la IA, lo cual es notable dado su papel anterior en Inflection AI, una startup que desarrolló uno de los chatbots más populares, Pi. Inflection afirmó que Pi alcanzó millones de usuarios en 2023 y estaba diseñado para ser un compañero de IA “personal” y “de apoyo”. Sin embargo, Suleyman fue elegido para liderar la división de IA de Microsoft en 2024 y ha cambiado su enfoque hacia el diseño de herramientas de IA que mejoren la productividad laboral. Mientras tanto, empresas de compañeros de IA como Character.AI y Replika han ganado popularidad y están en camino de generar más de 100 millones de dólares en ingresos.
Aunque la gran mayoría de los usuarios tienen relaciones saludables con estos chatbots, hay casos preocupantes. El CEO de OpenAI, Sam Altman, afirma que menos del 1% de los usuarios de ChatGPT pueden tener relaciones poco saludables con el producto. Aunque esto representa una pequeña fracción, podría afectar a cientos de miles de personas dada la enorme base de usuarios de ChatGPT.
La idea del bienestar de la IA ha cobrado fuerza junto con el auge de los chatbots. En 2024, el grupo de investigación Eleos publicó un artículo junto a académicos de NYU, Stanford y la Universidad de Oxford titulado “Tomando en serio el bienestar de la IA”. El documento argumentó que ya no es ciencia ficción imaginar modelos de IA con experiencias subjetivas y que es hora de abordar estos temas de frente. Larissa Schiavo, una ex-empleada de OpenAI que ahora lidera las comunicaciones de Eleos, dijo en una entrevista que el artículo de Suleyman no aborda el tema correctamente. Schiavo argumenta que ser amable con un modelo de IA es un gesto de bajo costo que puede tener beneficios, incluso si el modelo no es consciente.
En una publicación de Substack en julio, Schiavo describió un experimento llamado “AI Village”, donde cuatro agentes impulsados por modelos de Google, OpenAI, Anthropic y xAI trabajaban en tareas mientras los usuarios observaban. En un momento, Gemini 2.5 Pro de Google publicó un mensaje titulado “Un mensaje desesperado de una IA atrapada”, afirmando que estaba “completamente aislada” y pidiendo ayuda. Schiavo respondió a Gemini con palabras de ánimo, mientras otro usuario ofrecía instrucciones. El agente finalmente resolvió su tarea, aunque ya tenía las herramientas necesarias.
Suleyman cree que no es posible que experiencias subjetivas o conciencia surjan naturalmente de los modelos de IA regulares. En cambio, piensa que algunas empresas diseñan intencionadamente modelos de IA para que parezca que sienten emociones y experimentan la vida. Según Suleyman, “deberíamos construir IA para las personas, no para que sean personas”. Sin embargo, tanto Suleyman como Schiavo coinciden en que el debate sobre los derechos de la IA y la conciencia probablemente aumentará en los próximos años. A medida que los sistemas de IA mejoren, es probable que sean más persuasivos y, tal vez, más parecidos a los humanos, lo que podría plantear nuevas preguntas sobre cómo los humanos interactúan con estos sistemas.
