YouTube está ampliando su tecnología de detección de ‘deepfakes’ a un grupo piloto de líderes públicos: cargos gubernamentales, candidatos políticos y periodistas. Hasta ahora, esta herramienta solo estaba disponible para unos 4 millones de creadores del Programa para Partners. El sistema funciona de forma similar a Content ID: analiza los vídeos subidos en busca de rostros generados con IA que imitan a una persona real sin autorización.
Los participantes del piloto podrán ver qué vídeos usan su imagen de forma sintética y, si consideran que vulneran las normas de YouTube, pedir su retirada. Sin embargo, la compañía revisará caso por caso según sus políticas de privacidad: el contenido paródico o de crítica política seguirá protegido como expresión legítima. Según Leslie Miller, vicepresidenta de Asuntos Gubernamentales y Política Pública, el objetivo es proteger la integridad del debate público sin censurar la sátira o el comentario político.
YouTube enmarca este movimiento en un contexto de creciente riesgo de manipulación mediante IA, especialmente cuando se utilizan imágenes falsas de políticos u otros responsables públicos para hacerles decir o hacer cosas que nunca ocurrieron. La empresa también apoya a nivel federal la propuesta de ley NO FAKES Act en EE. UU., que busca regular el uso de la IA para recrear voces e imágenes sin consentimiento.
Para usar la herramienta, los miembros del piloto deben verificar su identidad con un selfie y un documento oficial. Después pueden crear un perfil, revisar coincidencias detectadas y decidir si piden la eliminación de ciertos vídeos. A futuro, YouTube plantea bloquear automáticamente las subidas que violen sus normas antes de que se publiquen o, en algunos casos, permitir que la persona afectada monetice esos contenidos, igual que se hace con Content ID.
Actualmente, la empresa asegura que el número de solicitudes de retirada por deepfakes entre creadores es muy bajo y que muchos usos resultan inofensivos o incluso beneficiosos para su visibilidad. Sin embargo, admiten que el impacto puede ser muy distinto cuando se trata de figuras públicas en el ámbito cívico. YouTube también planea extender su detección a voces reconocibles y otros tipos de propiedad intelectual, como personajes populares, mientras mantiene el etiquetado de contenido generado por IA con avisos más visibles en temas “sensibles”.
