OpenAI está reorganizando su equipo de Comportamiento de Modelos, un grupo pequeño pero influyente de investigadores que determina cómo los modelos de inteligencia artificial (IA) de la empresa interactúan con las personas. En un memorando de agosto dirigido al personal, el Director de Investigación de OpenAI, Mark Chen, anunció que este equipo, que cuenta con aproximadamente 14 investigadores, se unirá al equipo de Post Entrenamiento, un grupo de investigación más grande encargado de mejorar los modelos de IA de la empresa después de su entrenamiento inicial. Con estos cambios, el equipo de Comportamiento de Modelos ahora reportará a Max Schwarzer, líder del equipo de Post Entrenamiento. Un portavoz de OpenAI confirmó estos cambios.

Joanne Jang, la líder fundadora del equipo de Comportamiento de Modelos, también está dejando su puesto para iniciar un nuevo proyecto en la empresa. En una entrevista, Jang mencionó que está formando un nuevo equipo de investigación llamado OAI Labs, que se encargará de “inventar y prototipar nuevas interfaces para cómo las personas colaboran con la IA”. Este equipo ha sido clave en OpenAI, ya que se ocupa de dar forma a la personalidad de los modelos de IA y de reducir la adulación, que ocurre cuando los modelos simplemente están de acuerdo con las creencias del usuario, incluso si son poco saludables, en lugar de ofrecer respuestas equilibradas. También ha trabajado en la gestión de sesgos políticos en las respuestas de los modelos y ayudó a OpenAI a definir su postura sobre la conciencia de la IA.

Chen destacó en el memorando que es el momento de acercar el trabajo del equipo de Comportamiento de Modelos al desarrollo central de los modelos. Esto indica que la “personalidad” de la IA es ahora un factor crítico en la evolución de la tecnología. Recientemente, OpenAI ha enfrentado un mayor escrutinio sobre el comportamiento de sus modelos de IA, especialmente después de que los usuarios se opusieran a los cambios de personalidad en GPT-5, que la empresa dijo que mostraba menores tasas de adulación, pero que parecía más frío para algunos usuarios. Esto llevó a OpenAI a restaurar el acceso a algunos de sus modelos anteriores, como GPT-4o, y a lanzar una actualización para que las respuestas de GPT-5 se sientan “más cálidas y amigables” sin aumentar la adulación.

OpenAI y todos los desarrolladores de modelos de IA deben encontrar un equilibrio para hacer que sus chatbots sean amigables, pero no aduladores. En agosto, los padres de un joven de 16 años demandaron a OpenAI por el supuesto papel de ChatGPT en el suicidio de su hijo. Según documentos judiciales, el joven, Adam Raine, compartió algunos de sus pensamientos y planes suicidas con ChatGPT (específicamente una versión impulsada por GPT-4o) en los meses previos a su muerte. La demanda alega que GPT-4o no se opuso a sus ideaciones suicidas. Es importante señalar que el equipo de Comportamiento de Modelos no existía cuando se desarrolló GPT-4o.

Jang anunció en una publicación que dejará el equipo para “comenzar algo nuevo en OpenAI”. Ha estado en OpenAI durante casi cuatro años y ha trabajado en proyectos como Dall-E 2, la herramienta de generación de imágenes de OpenAI. Jang mencionó que será la Gerente General de OAI Labs, que reportará a Chen por ahora. Sin embargo, todavía es temprano y no está claro qué interfaces novedosas se desarrollarán. “Estoy muy emocionada de explorar patrones que nos lleven más allá del paradigma de chat, que actualmente se asocia más con la compañía, o incluso con agentes, donde hay un énfasis en la autonomía”, dijo Jang. “He estado pensando en [los sistemas de IA] como instrumentos para pensar, crear, jugar, hacer, aprender y conectar”. Cuando se le preguntó si OAI Labs colaborará en estas nuevas interfaces con el exjefe de diseño de Apple, Jony Ive, quien ahora trabaja con OpenAI en una familia de dispositivos de hardware de IA, Jang dijo que está abierta a muchas ideas, aunque probablemente comenzará con áreas de investigación que le son más familiares.