YouTube está implementando nuevas herramientas para identificar contenido generado por inteligencia artificial (IA) en su plataforma. Estas herramientas ayudarán a detectar voces, personas y música creadas por IA en los videos. El sistema de Content ID, que antes solo buscaba infracciones de derechos de autor, ahora también identificará voces sintéticas que cantan. Además, se están desarrollando métodos para reconocer caras generadas por IA en videos sin el consentimiento de las personas.
La herramienta de identificación de voces sintéticas funcionará de manera sencilla: la IA detectará automáticamente imitaciones de voces cantantes y alertará a los usuarios. Google planea lanzar una versión piloto de este sistema a principios del próximo año antes de una implementación más amplia.
En cuanto al contenido visual, YouTube está probando una forma para que los creadores de contenido detecten videos generados por IA que utilizan sus rostros sin autorización. Esto busca dar más control a artistas y figuras públicas sobre cómo se utilizan sus imágenes en la plataforma, evitando la propagación de deepfakes o manipulaciones no autorizadas.
Estas nuevas funciones se basan en una política que se añadió silenciosamente a los términos y condiciones de YouTube en julio, para abordar la imitación generada por IA. Las personas afectadas pueden solicitar la eliminación de videos que contengan deepfakes de ellas a través del proceso de solicitud de privacidad de YouTube. Esto representa un cambio significativo, ya que antes solo se etiquetaban los videos como contenido de IA o engañoso.
Amjad Hanif, vicepresidente de Productos para Creadores de YouTube, mencionó en un blog que están comprometidos a proteger y empoderar a los creadores en la era de la IA. También se están desarrollando medidas para que los creadores tengan más control sobre cómo sus contenidos son utilizados por terceros para entrenar modelos de IA, ya que algunos creadores han expresado su descontento por el uso no autorizado de su trabajo.
Estos anuncios son parte de los esfuerzos de YouTube para integrar la IA en su plataforma de manera confiable. Esto incluye el desarrollo de herramientas como Brainstorm con Gemini, que ayuda a los creadores a encontrar inspiración para nuevos videos, y un generador de música por IA que permitirá eliminar música con derechos de autor de los videos sin tener que eliminarlos por completo.
