OpenAI lanzó su herramienta de generación de videos llamada Sora el lunes. Sin embargo, la empresa ha decidido no liberar una función clave para la mayoría de los usuarios hasta que realicen más pruebas. Esta función permite crear un video usando una foto o un video de una persona real como referencia. OpenAI mencionó que dará acceso a un “subconjunto” de usuarios de Sora, pero no lo hará de manera general hasta que mejore su “enfoque de seguridad”.
La compañía explicó en un blog que la capacidad de generar un video a partir de una imagen o video de una persona real puede ser mal utilizada, por lo que están adoptando un enfoque cuidadoso para aprender de los patrones de uso iniciales. Algunos artistas han comentado que esta herramienta es muy valiosa para su creatividad, pero debido al potencial de abuso, no estará disponible para todos los usuarios al principio.
La generación de videos es una herramienta poderosa, pero también controvertida, especialmente por el problema de los deepfakes y la desinformación. Según datos de Sumsub, el fraude relacionado con deepfakes aumentó más de diez veces de 2022 a 2023. Para prevenir el mal uso, Sora incluye un filtro que detecta si un video generado muestra a alguien menor de 18 años. Si es así, OpenAI aplica un “umbral más estricto” para moderar contenido sexual, violento o relacionado con el autolesionismo.
Todos los videos generados por Sora contienen metadatos que muestran su origen, cumpliendo con el estándar técnico C2PA. Aunque estos metadatos pueden ser eliminados, OpenAI los presenta como una forma para que las plataformas que apoyan C2PA puedan detectar rápidamente si un video proviene de Sora.
Para evitar quejas de derechos de autor, OpenAI también utiliza “reescritura de solicitudes” para impedir que Sora genere videos en el estilo de creadores vivos. La empresa optó por un enfoque conservador mientras aprende más sobre cómo la comunidad creativa utiliza Sora. Aunque hay una larga tradición de inspirarse en el estilo de otros artistas, comprenden que algunos creadores pueden tener preocupaciones al respecto.
Varios artistas han demandado a empresas de IA, incluida OpenAI, por supuestamente entrenar sus modelos con sus obras sin permiso. Las empresas defienden que la doctrina de uso justo las protege de reclamaciones por infracción de derechos de autor y que los modelos de IA no simplemente reproducen contenido.
Según el video blogger Marcus Brownlee, quien tuvo un adelanto de las funciones, Sora puede crear videos a partir de un texto o imagen y editar videos existentes mediante una herramienta de Re-mix. Una interfaz de Storyboard permite a los usuarios crear secuencias de videos, mientras que una herramienta de Blend combina dos videos para crear uno nuevo que conserve elementos de ambos. Los suscriptores de los planes ChatGPT Pro y Plus de OpenAI pueden acceder a Sora, pero solo si residen en ciertos países.
