¿Has oído hablar de la película Mountainhead? Esta película no se estrenó en cines, sino que llegó a Max el 31 de mayo. La historia sigue a cuatro multimillonarios de la tecnología que se reúnen en un lujoso refugio de esquí llamado Mountainhead, inspirado en la novela “El manantial” de Ayn Rand. Durante su encuentro anual, permanecen aislados mientras el mundo exterior se sumerge en el caos y la violencia, en gran parte debido a los videos deepfake hiperrealistas que su software ha ayudado a crear y que están disponibles para el público.
Una vez que lanzaron su software para generar videos, la gente comenzó a usarlo de la peor manera posible, provocando saqueos, disturbios, guerras entre pandillas y el colapso de economías enteras.
Mientras esto sucede, los protagonistas parecen más preocupados por quién tiene más dinero en su cuenta bancaria que por el mundo apocalíptico que han contribuido a crear. Los personajes de Mountainhead son parodias de líderes tecnológicos actuales como Musk, Bezos, Altman y Zuckerberg. Sin embargo, en lugar de ser una comedia ligera sobre Silicon Valley, la película es un ataque directo que deja solo cenizas a su paso.
¿Podría suceder algo así en la vida real? Mountainhead es una de las mejores películas en Max en este momento, con un respetable 78% de calificación en Rotten Tomatoes. Dado que ya existen plataformas como Sora y Veo 3, que pueden generar videos realistas con inteligencia artificial, empecé a preguntarme cuán probable es que el escenario de pesadilla de Mountainhead se convierta en realidad.
Para aclarar mis dudas, hablé con un experto en deepfakes de IA, pero en lugar de tranquilizarme, me dejó más preocupado. “La desinformación no necesita ser sofisticada para crear caos”, dice Ari Abelson, cofundador de OpenOrigins, una empresa que se especializa en verificar la autenticidad de imágenes y videos. “Incluso campañas de shallowfake, como el video de Nancy Pelosi ralentizado para que parezca que está balbuceando, generan momentos de incertidumbre”.
Desde el lanzamiento del video viral falso de Pelosi, han surgido herramientas de creación de videos con IA muy potentes, como Sora de OpenAI y Veo 3 de Google. “Veo 3 y otros modelos nos muestran una nueva generación de desinformación, con contenido tan realista que ya no se puede distinguir de la realidad. Para el 90% de los espectadores, Veo 3 es indistinguible de contenido humano real. Sin embargo, el gran temor es que en los próximos 1-2 años, todo el contenido, humano o no, será cuestionado”, añade Abelson.
“Lo que necesitamos ahora es demostrar que el contenido es real en el momento en que se crea. Si eres una empresa que depende de medios humanos, el juego será probar que es real y confiable en el momento de su captura”. Por ejemplo, las empresas de noticias deberán repensar cómo recopilan historias, las aseguradoras necesitarán validar reclamaciones y el ejército deberá saber qué fuentes proporcionan evidencia real.
“Además, los archivos de contenido humano deben asegurarse para tener un registro inalterable de autenticidad y no perder nuestra historia colectiva en la inmensa ola de desinformación generada por IA”, concluye Abelson.
¿Crees que no podrías ser engañado por un video de IA? Te invito a ver un video de la Universidad de Oxford sobre este tema.
Estamos en un punto de inflexión aterrador donde cada forma de comunicación en línea podría convertirse en un gran lío si no podemos determinar de manera confiable qué es real y qué es falso. “Si no resolvemos esto, entramos en una nueva fase donde la información, la historia, las noticias y los hechos se decidirán por opiniones en lugar de lo que realmente está sucediendo”, advierte Abelson. “Podríamos vivir en un futuro controlado por IA”.
Esto me preocupa aún más, así que le pregunté a Abelson si había una salida a este problema. Afortunadamente, tiene ideas radicales: “Necesitamos bifurcar Internet en un internet humano y un internet de agentes. Este es un cambio fundamental en la infraestructura subyacente. La realidad compartida de la sociedad es demasiado importante para dejarla en manos de algoritmos probabilísticos y heurísticas poco confiables. Necesitamos que las personas, empresas y gobiernos tomen en serio la autenticidad del contenido y un sistema de confianza descentralizado para probar qué es creado por humanos”.
La idea de un Internet de dos niveles, donde un nivel contenga solo contenido creado por humanos, es asombrosa y podría ser revolucionaria. Si es posible, podría ser nuestra única defensa contra los deepfakes de IA que amenazan con destruir nuestra confianza en lo que vemos en línea.
