En un documento de política publicado el miércoles, el ex CEO de Google, Eric Schmidt, el CEO de Scale AI, Alexandr Wang, y el director del Centro para la Seguridad de la IA, Dan Hendrycks, afirmaron que Estados Unidos no debería seguir un enfoque similar al Proyecto Manhattan para desarrollar sistemas de inteligencia artificial con “inteligencia sobrehumana”, también conocido como AGI. El documento, titulado “Estrategia de Superinteligencia”, sostiene que un intento agresivo de EE. UU. por controlar exclusivamente sistemas de IA superinteligentes podría provocar una fuerte represalia de China, posiblemente en forma de ciberataque, lo que podría desestabilizar las relaciones internacionales.
Los coautores escriben: “[Un] Proyecto Manhattan [para AGI] asume que los rivales aceptarán un desequilibrio duradero o un omnicidio en lugar de actuar para prevenirlo. Lo que comienza como un impulso por un superarma y control global arriesga provocar medidas de represalia hostiles y escalar tensiones, socavando así la estabilidad que la estrategia pretende asegurar”.
Este documento, coescrito por tres figuras influyentes en la industria de la IA en EE. UU., llega pocos meses después de que una comisión del Congreso estadounidense propusiera un esfuerzo al estilo del Proyecto Manhattan para financiar el desarrollo de AGI, modelado según el programa de bombas atómicas de EE. UU. en la década de 1940. El secretario de Energía de EE. UU., Chris Wright, dijo recientemente que el país está “en el inicio de un nuevo Proyecto Manhattan” sobre IA, mientras estaba frente a un sitio de supercomputadoras junto al cofundador de OpenAI, Greg Brockman.
La Estrategia de Superinteligencia desafía la idea, defendida por varios líderes de política e industria en EE. UU. en los últimos meses, de que un programa respaldado por el gobierno que persiga la AGI es la mejor manera de competir con China. Según la opinión de Schmidt, Wang y Hendrycks, EE. UU. se encuentra en una especie de estancamiento de AGI, no muy diferente de la destrucción mutua asegurada. Al igual que las potencias globales no buscan monopolios sobre armas nucleares —lo que podría desencadenar un ataque preventivo de un adversario—, los coautores argumentan que EE. UU. debería tener cuidado al apresurarse a dominar sistemas de IA extremadamente poderosos.
Aunque comparar los sistemas de IA con armas nucleares puede sonar extremo, los líderes mundiales ya consideran que la IA es una ventaja militar clave. El Pentágono afirma que la IA está ayudando a acelerar la cadena de eliminación militar.
Schmidt y sus colegas introducen un concepto que llaman Malfuncionamiento Asegurado Mutuo de IA (MAIM), en el que los gobiernos podrían desactivar proactivamente proyectos de IA amenazantes en lugar de esperar a que los adversarios armen la AGI. Proponen que EE. UU. cambie su enfoque de “ganar la carrera hacia la superinteligencia” a desarrollar métodos que disuadan a otros países de crear IA superinteligente. Los coautores argumentan que el gobierno debería “ampliar su arsenal de ciberataques para desactivar proyectos de IA amenazantes” controlados por otras naciones, así como limitar el acceso de los adversarios a chips de IA avanzados y modelos de código abierto.
Los coautores identifican una dicotomía que se ha desarrollado en el mundo de la política de IA. Están los “pesimistas”, que creen que los resultados catastróficos del desarrollo de IA son inevitables y abogan por que los países frenen el progreso de la IA. Por otro lado, están los “avestruz”, que creen que las naciones deberían acelerar el desarrollo de IA y simplemente esperar que todo salga bien. El documento propone un tercer camino: un enfoque medido para desarrollar AGI que priorice estrategias defensivas. Esta estrategia es particularmente notable viniendo de Schmidt, quien anteriormente ha sido vocal sobre la necesidad de que EE. UU. compita agresivamente con China en el desarrollo de sistemas de IA avanzados.
Sin embargo, como señalan los coautores, las decisiones de EE. UU. sobre AGI no existen en un vacío. A medida que el mundo observa a EE. UU. empujar los límites de la IA, Schmidt y sus coautores sugieren que podría ser más sabio adoptar un enfoque defensivo.
