Un destacado ex-investigador de políticas de OpenAI, Miles Brundage, criticó a la empresa en redes sociales por “reescribir la historia” sobre su enfoque en el despliegue de sistemas de inteligencia artificial (IA) que podrían ser riesgosos. Esta semana, OpenAI publicó un documento que detalla su filosofía actual sobre la seguridad y alineación de la IA, que se refiere a cómo diseñar sistemas de IA que se comporten de manera deseable y comprensible. En el documento, OpenAI menciona que el desarrollo de la inteligencia general artificial (AGI), que se define como sistemas de IA capaces de realizar cualquier tarea que un humano pueda, es un “camino continuo” que requiere “despliegues iterativos y aprendizaje” de las tecnologías de IA.
Brundage sostiene que el modelo GPT-2, lanzado por OpenAI en 2019, merecía mucha precaución en el momento de su lanzamiento, y que esto era “100% consistente” con la estrategia de despliegue iterativo actual de OpenAI. Él participó en la liberación de GPT-2, que se hizo de manera gradual, compartiendo lecciones en cada paso. Muchos expertos en seguridad agradecieron esta cautela en ese momento.
Brundage, quien fue jefe de investigación de políticas en OpenAI, se enfocó en el despliegue responsable de sistemas de generación de lenguaje como ChatGPT. GPT-2 podía responder preguntas, resumir artículos y generar texto a veces indistinguible del humano. Aunque hoy en día parece básico, en su lanzamiento era innovador. Debido al riesgo de uso malicioso, OpenAI inicialmente no liberó el código fuente de GPT-2, ofreciendo acceso limitado a algunos medios. Esta decisión generó opiniones divididas en la industria de la IA, con muchos expertos argumentando que la amenaza de GPT-2 había sido exagerada.
Finalmente, OpenAI lanzó una versión parcial de GPT-2 seis meses después de su anuncio, y luego el sistema completo. Brundage considera que esta fue la decisión correcta y cuestiona la idea de que la cautela fue “desproporcionada”. Él teme que el objetivo de OpenAI con el documento sea establecer una carga de prueba donde las “preocupaciones son alarmistas” y se necesite evidencia abrumadora de peligros inminentes para actuar, lo que considera una mentalidad “muy peligrosa” para los sistemas avanzados de IA.
OpenAI ha sido acusada de priorizar productos atractivos a expensas de la seguridad y de apresurar lanzamientos para superar a la competencia. El año pasado, la empresa disolvió su equipo de preparación para AGI, y varios investigadores de seguridad y políticas se fueron a empresas rivales. La presión competitiva ha aumentado, especialmente con el laboratorio de IA chino DeepSeek, que ha captado la atención mundial con su modelo R1, que iguala al modelo de razonamiento de OpenAI en varios benchmarks clave. El CEO de OpenAI, Sam Altman, ha admitido que DeepSeek ha reducido la ventaja tecnológica de OpenAI y ha mencionado que la empresa podría “retirar algunos lanzamientos” para competir mejor.
OpenAI enfrenta grandes pérdidas anuales, que podrían triplicarse a $14 mil millones para 2026. Un ciclo de lanzamiento de productos más rápido podría beneficiar a OpenAI a corto plazo, pero posiblemente a expensas de la seguridad a largo plazo. Expertos como Brundage cuestionan si este sacrificio vale la pena.
