Hoy en día, es muy fácil encontrar contenido falso en internet, especialmente los deepfakes, que son videos manipulados con inteligencia artificial. Según la plataforma de verificación de identidad Sumsub, el número de deepfakes ha aumentado cuatro veces de 2023 a 2024. En este último año, los deepfakes representaron el 7% de todos los fraudes, incluyendo suplantaciones de identidad y robos de cuentas.
Para ayudar a combatir este problema, Meta ha lanzado una herramienta llamada Meta Video Seal, que añade marcas de agua casi invisibles a los videos generados por inteligencia artificial. Esta herramienta fue anunciada el jueves y está disponible como código abierto, lo que significa que otros desarrolladores pueden integrarla en su software.
Pierre Fernandez, científico de investigación en inteligencia artificial de Meta, explicó que Video Seal es una solución más efectiva para marcar videos, especialmente aquellos generados por IA, y proteger su originalidad. Aunque no es la primera tecnología de este tipo, ya que DeepMind y Microsoft también tienen sus propias herramientas de marcas de agua, Fernandez sostiene que muchas de estas soluciones no son lo suficientemente robustas para soportar la compresión de video, que es común en las redes sociales.
Además de la marca de agua, Video Seal puede añadir un mensaje oculto en los videos que se puede descubrir más tarde para verificar su origen. Meta asegura que esta herramienta es resistente a ediciones comunes como el desenfoque y el recorte, así como a algoritmos de compresión populares. Sin embargo, Fernandez reconoce que Video Seal tiene limitaciones, especialmente en cuanto a la visibilidad de las marcas de agua y su resistencia a manipulaciones. Ediciones fuertes o compresión excesiva pueden afectar la marca de agua.
Un desafío importante para Video Seal es que los desarrolladores y la industria pueden no tener muchas razones para adoptarla, especialmente si ya utilizan soluciones propias. Para fomentar su uso, Meta ha creado un ranking público llamado Meta Omni Seal Bench, que compara el rendimiento de diferentes métodos de marcas de agua, y organizará un taller sobre este tema en la conferencia ICLR, un evento importante en el campo de la inteligencia artificial. Fernandez espera que más investigadores y desarrolladores integren algún tipo de marca de agua en su trabajo, buscando colaborar con la industria y la comunidad académica para avanzar más rápidamente en este campo.
