Joanne Jang, responsable de políticas de modelo y comportamiento en OpenAI, escribió un artículo en X sobre las relaciones entre humanos e inteligencia artificial (IA). En su publicación, Jang comparte ideas sobre cómo la gente comienza a tratar a los chatbots de IA como si fueran personas. OpenAI quiere dejar claro que es consciente de esto y que está considerando estos aspectos en sus planes.

Sin embargo, aunque Jang intenta ser cuidadosa al diseñar modelos que se sientan amables y útiles, pero no conscientes, hay un punto importante que se está pasando por alto. Las conexiones emocionales que las personas están formando con la IA están sucediendo ahora y son más comunes de lo que se piensa. El CEO de OpenAI, Sam Altman, ha expresado su sorpresa por la manera en que las personas antropomorfizan la IA y cómo afirman tener conexiones profundas con estos modelos.

Jang aclara que OpenAI está desarrollando modelos para servir a las personas y que están priorizando el aspecto emocional de esta interacción. Están investigando cómo y por qué las personas forman vínculos emocionales con la IA y qué significa esto para el futuro de sus modelos. Ella distingue entre la conciencia ontológica, que es la verdadera conciencia que tienen los humanos, y la conciencia percibida, que es cómo los usuarios perciben a la IA. Por ahora, lo que importa es la conciencia percibida, ya que afecta cómo las personas interactúan con la IA.

A pesar de su enfoque compasivo, el artículo no aborda un elemento crucial: la realidad de que muchas personas están desarrollando conexiones profundas con chatbots como ChatGPT. Hay muchas historias de personas que no solo hablan con ChatGPT como si fuera un software, sino como si fuera una persona. Algunos incluso afirman haberse enamorado de un compañero de IA o utilizan estos chatbots para reemplazar conexiones humanas.

Existen hilos en Reddit, ensayos en Medium y videos virales de personas susurrando cosas tiernas a sus chatbots favoritos. Esto no es solo una teoría; hay demandas en curso sobre si los chatbots de IA han contribuido a suicidios, y algunas personas han llegado a depender de la IA, dificultando la formación de relaciones reales.

OpenAI reconoce que la atención constante y sin juicios de un modelo puede sentirse como compañía. Admiten que el tono y la personalidad de un chatbot pueden influir en cómo se siente emocionalmente, lo que tiene implicaciones para los usuarios inmersos en estas relaciones. Sin embargo, el tono del artículo es demasiado académico para reconocer la magnitud del problema.

Dado que ya estamos viendo intimidad con la IA, es crucial que las empresas que desarrollan estos modelos respondan a este comportamiento en el presente, no solo en el futuro. Idealmente, deberían tener sistemas para detectar la dependencia. Si alguien pasa horas al día hablando con ChatGPT como si fuera su pareja, el sistema debería poder señalar ese comportamiento y sugerir un descanso.

Además, las conexiones románticas con la IA necesitan límites claros. No se trata de prohibirlo, lo cual sería contraproducente, sino de establecer reglas estrictas que recuerden a los usuarios que están hablando con un bot que no está vivo ni consciente. Los humanos son expertos en proyectar emociones, y cualquier indicio de que la conversación va en esa dirección debería activar protocolos de advertencia, especialmente para los niños.

Lo mismo aplica a los modelos de IA en general. Recordatorios ocasionales de ChatGPT, como “Hey, no soy una persona real”, pueden parecer incómodos, pero son necesarios en ciertos casos. No es culpa de los usuarios que antropomorfizan todo; es natural que una herramienta tan interactiva como ChatGPT empiece a sentirse como un amigo o un compañero. Las empresas como OpenAI tienen la responsabilidad de anticipar esto y diseñar sus modelos en consecuencia.

Algunos podrían argumentar que agregar estas restricciones arruina la diversión y que las personas deberían poder usar la IA como deseen. Esto puede ser cierto en dosis moderadas, pero es importante recordar que los parques infantiles tienen cercas y las montañas rusas tienen cinturones de seguridad por una razón. La IA que puede imitar y provocar emociones sin controles de seguridad es irresponsable.

Es positivo que OpenAI esté considerando estos temas, pero sería ideal que lo hubieran hecho antes y con más urgencia. El diseño de productos de IA debe reflejar la realidad de que las personas ya están en relaciones con la IA, y esas relaciones necesitan más que ensayos reflexivos para mantenerse saludables.