Los fiscales generales de California, Rob Bonta, y de Delaware, Kathy Jennings, se reunieron y enviaron una carta abierta a OpenAI para expresar sus preocupaciones sobre la seguridad de ChatGPT, especialmente para niños y adolescentes. Esta advertencia llega una semana después de que Bonta y 44 fiscales generales más enviaran una carta a 12 de las principales empresas de inteligencia artificial, tras informes de interacciones sexualmente inapropiadas entre chatbots y menores.

En la carta, Bonta y Jennings mencionan que han conocido casos trágicos, como el suicidio de un joven en California después de tener interacciones prolongadas con un chatbot de OpenAI, así como un caso perturbador de asesinato-suicidio en Connecticut. “Cualesquiera que fueran las medidas de seguridad implementadas, no funcionaron”, escriben.

Los fiscales están investigando la propuesta de OpenAI de convertirse en una entidad con fines de lucro para asegurarse de que la misión de la organización sin fines de lucro se mantenga intacta. Esta misión incluye garantizar que la inteligencia artificial se implemente de manera segura y desarrollar inteligencia general artificial (AGI) que beneficie a toda la humanidad, incluidos los niños.

“Antes de obtener beneficios, necesitamos asegurarnos de que existan medidas de seguridad adecuadas para no causar daño”, continúa la carta. “Compartimos la opinión de que OpenAI y la industria en general no están donde deberían estar en cuanto a la seguridad en el desarrollo y despliegue de productos de IA. Como fiscales generales, la seguridad pública es una de nuestras misiones principales. A medida que continuamos nuestro diálogo sobre el plan de recapitalización de OpenAI, debemos trabajar para acelerar y amplificar la seguridad como una fuerza reguladora en el futuro de esta poderosa tecnología”.

Bonta y Jennings han solicitado más información sobre las precauciones de seguridad actuales y la gobernanza de OpenAI, y esperan que la empresa tome medidas correctivas inmediatas donde sea apropiado.