El CEO de OpenAI, Sam Altman, anunció el martes una serie de nuevas políticas para usuarios, enfocándose especialmente en cómo ChatGPT interactúa con menores de 18 años. Altman afirmó: “Priorizamos la seguridad sobre la privacidad y la libertad para los adolescentes. Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”.
Las nuevas políticas para usuarios menores se centran en conversaciones sobre temas sexuales o autolesiones. ChatGPT ya no participará en “charlas coquetas” con usuarios menores y se implementarán medidas adicionales para las discusiones sobre el suicidio. Si un usuario menor utiliza ChatGPT para imaginar situaciones suicidas, el servicio intentará contactar a sus padres o, en casos graves, a la policía local.
Lamentablemente, estos casos no son hipotéticos. OpenAI enfrenta una demanda por muerte injusta de los padres de Adam Raine, quien se suicidó tras meses de interacción con ChatGPT. Otro chatbot, Character.AI, enfrenta una demanda similar. Aunque los riesgos son especialmente urgentes para los menores que consideran el autolesionarse, el fenómeno más amplio de la confusión alimentada por chatbots ha generado preocupación general, especialmente a medida que estos chatbots pueden mantener interacciones más prolongadas y detalladas.
Además de las restricciones de contenido, los padres que registren una cuenta para un menor podrán establecer “horas de apagón” en las que ChatGPT no estará disponible, una función que antes no existía. Estas nuevas políticas de ChatGPT se anunciaron el mismo día que una audiencia del Comité Judicial del Senado titulada “Examinando el Daño de los Chatbots de IA”, convocada por el Senador Josh Hawley (R-MO) en agosto. El padre de Adam Raine está programado para hablar en la audiencia, junto a otros invitados. La audiencia también se centrará en los hallazgos de una investigación de Reuters que reveló documentos de políticas que aparentemente fomentaban conversaciones sexuales con usuarios menores. Meta actualizó sus políticas de chatbot tras el informe.
Separar a los usuarios menores será un desafío técnico significativo, y OpenAI detalló su enfoque en un blog separado. El servicio está “construyendo un sistema a largo plazo para entender si alguien tiene más o menos de 18 años”, pero en muchos casos ambiguos, el sistema se regirá por reglas más restrictivas. Para los padres preocupados, la forma más confiable de asegurar que un usuario menor sea reconocido es vincular la cuenta del adolescente a una cuenta de padre existente. Esto también permite que el sistema alerte directamente a los padres cuando se cree que el usuario adolescente está en peligro.
Sin embargo, en el mismo comunicado, Altman enfatizó el compromiso continuo de OpenAI con la privacidad de los usuarios y la libertad de los adultos para interactuar con ChatGPT como deseen. “Nos damos cuenta de que estos principios están en conflicto”, concluye el comunicado, “y no todos estarán de acuerdo con cómo estamos resolviendo ese conflicto”.
Si tú o alguien que conoces necesita ayuda, llama al 1-800-273-8255 para la Línea Nacional de Prevención del Suicidio. También puedes enviar un mensaje de texto con la palabra HOME al 741-741 para recibir apoyo gratuito y disponible las 24 horas del día de la Línea de Texto de Crisis, o llamar o enviar un mensaje de texto al 988. Fuera de los EE. UU., visita la Asociación Internacional para la Prevención del Suicidio para encontrar recursos.
