El CEO de OpenAI, Sam Altman, ha afirmado que la humanidad está a solo unos años de desarrollar una inteligencia artificial general que podría automatizar la mayoría de los trabajos humanos. Si esto es cierto, la humanidad también merece entender y opinar sobre las personas y los mecanismos detrás de una fuerza tan increíble y potencialmente desestabilizadora. Este es el propósito principal de “Los Archivos de OpenAI”, un proyecto de archivo del Midas Project y el Tech Oversight Project, dos organizaciones sin fines de lucro que supervisan la tecnología.
Los Archivos son una “colección de preocupaciones documentadas sobre las prácticas de gobernanza, la integridad del liderazgo y la cultura organizacional en OpenAI”. Más allá de crear conciencia, el objetivo de los Archivos es proponer un camino a seguir para OpenAI y otros líderes en inteligencia artificial que se enfoque en una gobernanza responsable, un liderazgo ético y beneficios compartidos. Según la visión del sitio web, “las estructuras de gobernanza y la integridad del liderazgo que guían un proyecto tan importante como este deben reflejar la magnitud y gravedad de la misión”. Se afirma que “las empresas que lideran la carrera hacia la inteligencia artificial general deben cumplir y exigirse a sí mismas estándares excepcionalmente altos”.
Hasta ahora, la carrera por dominar la inteligencia artificial ha resultado en un crecimiento desenfrenado, con una mentalidad de “crecimiento a cualquier costo” que ha llevado a empresas como OpenAI a recopilar contenido sin consentimiento para fines de entrenamiento y a construir enormes centros de datos que provocan cortes de energía y aumentan los costos de electricidad para los consumidores locales. La prisa por comercializar también ha llevado a las empresas a lanzar productos antes de implementar las salvaguardias necesarias, debido a la presión de los inversores para obtener ganancias.
Esta presión de los inversores ha cambiado la estructura central de OpenAI. Los Archivos de OpenAI detallan cómo, en sus primeros días como organización sin fines de lucro, OpenAI había limitado inicialmente las ganancias de los inversores a un máximo de 100 veces, de modo que cualquier ingreso por alcanzar la inteligencia artificial general beneficiaría a la humanidad. Sin embargo, la empresa ha anunciado planes para eliminar ese límite, admitiendo que ha realizado tales cambios para complacer a los inversores que condicionaron su financiamiento a reformas estructurales.
Los Archivos destacan problemas como los procesos de evaluación de seguridad apresurados de OpenAI y una “cultura de imprudencia”, así como los posibles conflictos de interés de los miembros de la junta de OpenAI y del propio Altman. Incluyen una lista de startups que podrían estar en la cartera de inversiones de Altman y que también tienen negocios superpuestos con OpenAI. Además, cuestionan la integridad de Altman, un tema de especulación desde que empleados senior intentaron destituirlo en 2023 por su “comportamiento engañoso y caótico”.
El excientífico jefe de OpenAI, Ilya Sutskever, supuestamente dijo en ese momento: “No creo que Sam sea la persona que debería tener el dedo en el botón de la inteligencia artificial general”. Las preguntas y soluciones planteadas por los Archivos de OpenAI nos recuerdan que un enorme poder está en manos de unos pocos, con poca transparencia y supervisión limitada. Los Archivos ofrecen una visión de esa “caja negra” y buscan cambiar la conversación de inevitabilidad a responsabilidad.
