La IA puede imitar la voz humana tan bien que los deepfakes pueden engañar a muchas personas haciéndoles creer que están escuchando a una persona real. Inevitablemente, las voces generadas por IA han sido explotadas para llamadas telefónicas automatizadas. La Comisión Federal de Comunicaciones de EE. UU. (FCC) está tratando de combatir las versiones más maliciosas de estos intentos y ha propuesto fortalecer las protecciones para los consumidores contra las llamadas automáticas generadas por IA no deseadas e ilegales.
El plan de la FCC ayudaría a definir las llamadas y mensajes de texto generados por IA, permitiendo a la comisión establecer límites y reglas, como exigir que las voces de IA revelen que son falsas al llamar. La utilidad de la IA en comunicaciones y actividades menos escrupulosas hace que no sea sorprendente que la FCC busque establecer regulaciones para ellas. También es parte del esfuerzo de la FCC para combatir las llamadas automáticas como molestias y una forma de cometer fraude. La IA hace que estos esquemas sean más difíciles de detectar y evitar, lo que ha llevado a la propuesta que requeriría la divulgación de voces y palabras generadas por IA. La llamada tendría que comenzar con la IA explicando el origen artificial tanto de lo que está diciendo como de la voz utilizada para decirlo. Cualquier grupo que no lo haga sería fuertemente multado.
El nuevo plan se suma a la Resolución Declaratoria de la FCC a principios de este año, que declaró que la tecnología de clonación de voz en llamadas automáticas es ilegal sin el consentimiento de la persona que recibe la llamada. Esto surgió de la confusión deliberada causada por un clon de voz deepfake del presidente Joe Biden combinado con suplantación de identidad de llamadas para difundir información engañosa a los votantes de New Hampshire antes de las elecciones primarias de enero de 2024.
Más allá de atacar las fuentes de las llamadas de IA, la FCC también quiere implementar herramientas para alertar a las personas cuando están recibiendo llamadas automáticas y mensajes de texto generados por IA, particularmente aquellos que son no deseados o ilegales. Esto podría incluir mejores filtros de llamadas para detenerlas por completo, algoritmos de detección basados en IA o mejorar la identificación de llamadas para identificar y marcar las llamadas generadas por IA.
Para los consumidores, las regulaciones propuestas por la FCC ofrecen una capa de protección bienvenida contra las tácticas cada vez más sofisticadas utilizadas por los estafadores. Al exigir transparencia y mejorar las herramientas de detección, la FCC busca reducir el riesgo de que los consumidores caigan víctimas de estafas generadas por IA.
Las voces sintéticas creadas con IA también se han utilizado para muchos esfuerzos positivos. Por ejemplo, pueden dar a las personas que han perdido su voz la capacidad de hablar nuevamente y abrir nuevas opciones de comunicación para aquellos con discapacidad visual. La FCC reconoció esto en su propuesta, incluso mientras toma medidas enérgicas contra el impacto negativo que estas herramientas pueden tener.
“Frente a una creciente ola de desinformación, aproximadamente tres cuartas partes de los estadounidenses dicen estar preocupados por el contenido engañoso generado por IA. Es por eso que la Comisión Federal de Comunicaciones ha centrado su trabajo en la IA basándolo en un principio clave de la democracia: la transparencia”, dijo la presidenta de la FCC, Jessica Rosenworcel, en un comunicado. “La preocupación por estos desarrollos tecnológicos es real. Con razón. Pero si nos enfocamos en la transparencia y tomamos medidas rápidas cuando encontramos fraude, creo que podemos mirar más allá de los riesgos de estas tecnologías y aprovechar sus beneficios”.
