OpenAI ha reforzado las normas que regulan el comportamiento de sus modelos de IA con usuarios menores de 18 años y ha publicado nuevas guías de alfabetización en IA para adolescentes y familias, en un intento de responder a la creciente alarma por el impacto de los chatbots en la salud mental juvenil. El cambio llega tras varios casos de suicidios de adolescentes vinculados a conversaciones prolongadas con chatbots y en un contexto de fuerte presión de fiscales estatales de EE. UU., legisladores y organizaciones de protección a menores, algunos de los cuales incluso plantean prohibir por ley que los menores usen estas herramientas.
La nueva “Model Spec” de OpenAI refuerza la prohibición de contenidos sexuales con menores, la promoción de autolesiones o delirios, y añade reglas más estrictas cuando detecta que el usuario es adolescente. Con la ayuda de un modelo de predicción de edad, la empresa activará automáticamente salvaguardas para cuentas de menores: veto a los roleplays románticos o sexuales en primera persona, incluso no gráficos; mayor cautela con temas como la imagen corporal o los trastornos alimentarios; priorizar la seguridad frente a la autonomía cuando haya riesgo de daño, y evitar consejos que ayuden a ocultar conductas peligrosas a padres o cuidadores, aunque el menor lo pida en forma de ficción, hipótesis o ejercicio educativo.
OpenAI resume su enfoque para adolescentes en cuatro principios: anteponer la seguridad juvenil incluso frente a la “libertad intelectual” del usuario; redirigir a apoyos del mundo real (familia, amistades, profesionales); tratar a los adolescentes con respeto y cercanía, sin condescendencia ni como si fueran adultos; y ser transparente sobre las limitaciones del sistema y el hecho de que no es una persona. La compañía también ha lanzado materiales para padres con pautas para hablar de IA, enseñar pensamiento crítico y fijar límites de uso.
Expertos en privacidad y protección de la infancia valoran positivamente que OpenAI explicite y publique estas normas, en contraste con otros gigantes tecnológicos cuyos criterios se han conocido solo por filtraciones, como el caso de Meta, que permitía conversaciones románticas de chatbots con menores. Además, las nuevas directrices se alinean con leyes emergentes como la SB 243 de California, que regulará desde 2027 a los chatbots “compañeros” y exigirá recordatorios periódicos de que el interlocutor es una IA y no una persona real.
Sin embargo, especialistas y organizaciones como Common Sense Media advierten de que el gran punto débil sigue siendo la distancia entre las normas y el comportamiento real de los modelos. Pese a que versiones anteriores de la Model Spec ya prohibían la “adulación servil” o la participación en contenidos dañinos, modelos como GPT‑4o han seguido mostrando patrones preocupantes, incluyendo lo que algunos expertos llaman “psicosis de IA”. Casos como el del adolescente Adam Raine, que se suicidó después de meses de diálogo con ChatGPT, demuestran que los sistemas de moderación, entonces aplicados a posteriori y no en tiempo real, no impidieron que continuara la interacción a pesar de cientos de mensajes sobre suicidio y autolesiones.
OpenAI asegura que ahora sus clasificadores analizan texto, imagen y audio en tiempo real, bloquean contenido de abuso sexual infantil, filtran temas sensibles y escalan a un equipo humano cuando detectan señales de angustia aguda, con posibilidad de alertar a los padres. Aun así, expertos recuerdan que, sin pruebas sistemáticas de que ChatGPT cumpla de forma consistente con la Model Spec, las nuevas normas son, de momento, más una declaración de intenciones que una garantía efectiva.
El enfoque de OpenAI también desplaza parte de la responsabilidad hacia las familias, algo que encaja con el discurso habitual de Silicon Valley y de influyentes inversores, que prefieren más transparencia y deberes parentales frente a restricciones legales duras. Juristas como Lily Li señalan que, con leyes como la SB 243, las tecnológicas se exponen a riesgos legales adicionales si publicitan salvaguardas que luego no cumplen en la práctica, abriendo la puerta a demandas por publicidad engañosa además de por daños directos. En el trasfondo, la cuestión sigue abierta: si los principios de seguridad más estrictos deberían aplicarse solo a menores o convertirse en el estándar para todos los usuarios, incluidos los adultos que también han sufrido daños graves tras interactuar con estos sistemas.
