Durante varios años, los expertos en tecnología han advertido sobre el potencial de los sistemas de inteligencia artificial avanzada para causar daños catastróficos a la humanidad. Sin embargo, en 2024, estas advertencias fueron opacadas por una visión más práctica y próspera de la IA generativa, promovida por la industria tecnológica, que también beneficiaba sus bolsillos. Aquellos que advierten sobre los riesgos catastróficos de la IA son a menudo llamados “doomsters de la IA”, aunque no les gusta ese término. Tienen miedo de que los sistemas de IA tomen decisiones que puedan matar personas, sean utilizados por los poderosos para oprimir a las masas o contribuyan a la caída de la sociedad de alguna manera.
En 2023, parecía que estábamos al inicio de una era de regulación tecnológica. El tema de la seguridad de la IA pasó de ser una conversación de cafeterías en San Francisco a ser discutido en cadenas de noticias como MSNBC y CNN, así como en las portadas del New York Times. Elon Musk y más de 1,000 tecnólogos y científicos pidieron una pausa en el desarrollo de la IA, instando al mundo a prepararse para los profundos riesgos de esta tecnología. Poco después, destacados científicos de OpenAI, Google y otros laboratorios firmaron una carta abierta diciendo que el riesgo de que la IA causara la extinción humana debía ser tomado en serio. Más tarde, el presidente Biden firmó una orden ejecutiva sobre la IA con el objetivo general de proteger a los estadounidenses de estos sistemas.
En noviembre de 2023, la junta no lucrativa detrás de OpenAI despidió a su CEO, Sam Altman, alegando que no se podía confiar en él con una tecnología tan importante como la inteligencia general artificial (AGI). Por un momento, parecía que los sueños de los emprendedores de Silicon Valley se pondrían en segundo plano ante la salud general de la sociedad. Sin embargo, para estos emprendedores, la narrativa sobre el “doom” de la IA era más preocupante que los propios modelos de IA.
En respuesta, Marc Andreessen, cofundador de a16z, publicó un ensayo titulado “Por qué la IA salvará al mundo”, donde presentaba una visión más optimista sobre cómo se desarrollaría la tecnología. Andreessen afirmó que la era de la IA estaba aquí y que no destruiría el mundo, sino que podría salvarlo. Propuso que las grandes empresas tecnológicas y las startups deberían poder desarrollar la IA de manera rápida y agresiva, sin muchas regulaciones, para evitar que esta cayera en manos de unos pocos poderosos.
A pesar de las advertencias, la inversión en IA en 2024 superó todo lo visto anteriormente. Altman regresó rápidamente a OpenAI, mientras que muchos investigadores de seguridad abandonaron la organización, preocupados por la cultura de seguridad en declive. La orden ejecutiva de Biden sobre la seguridad de la IA perdió popularidad en Washington, D.C., y el presidente electo Donald Trump anunció planes para derogar dicha orden, argumentando que obstaculizaba la innovación en IA.
Los republicanos en Washington tienen prioridades relacionadas con la IA que superan el “doom” de la IA, como construir centros de datos para alimentar la IA, usarla en el gobierno y el ejército, competir con China y proteger a los niños de los chatbots de IA. A pesar de las advertencias, el riesgo catastrófico de la IA perdió terreno en 2024, en parte porque los modelos de IA se hicieron más populares, mostrando cuán poco inteligentes pueden ser.
El debate sobre la seguridad de la IA culminó con el proyecto de ley SB 1047 en California, que intentaba prevenir que los sistemas de IA avanzados causaran eventos de extinción masiva. Aunque el proyecto de ley fue apoyado por destacados investigadores de IA, el gobernador Gavin Newsom lo vetó, señalando que no podía resolver todos los problemas. Además, el proyecto de ley fue criticado por su enfoque en regular solo a los actores más grandes, sin considerar nuevas técnicas que están surgiendo en el campo de la IA.
A medida que avanza la discusión sobre la regulación de la IA, algunos expertos creen que la conciencia pública sobre los riesgos a largo plazo de la IA está creciendo. A pesar de la derrota del SB 1047, se espera que haya esfuerzos significativos en 2025 para regular los riesgos catastróficos asociados con la IA. Sin embargo, los “doomsters” de la IA enfrentarán una batalla difícil en el futuro.
