Cada vez que abro Facebook, que no es muy a menudo últimamente, me encuentro con imágenes de ensueño de cuentas que se llaman cosas como “La naturaleza es asombrosa”. Un castillo elaborado en los bosques de Escocia o ruinas de templos sumergidos en aguas cristalinas. Por un momento, me pregunto: ¿es eso real? Luego, al mirar más de cerca, me doy cuenta de que, por supuesto, es contenido generado por inteligencia artificial (IA).

Los comentarios son siempre un caos. Algunas personas afirman con confianza: “¡Es IA!”, mientras que otras insisten: “No, es real”. Las respuestas más extrañas son las que reconocen que es falso, pero no parecen preocuparse: “Es IA, pero sigue siendo hermoso. Espero visitarlo algún día”. No puedo comenzar a entender la lógica detrás de justificar por qué lo falso está bien. Así que hablemos sobre el contenido generado por IA, lo que es, por qué existe y si deberíamos preocuparnos por ello.

El término “contenido generado por IA” se refiere a contenido que es inútil, perezoso, engañoso o simplemente de muy mala calidad, como el spam de la era de la IA. Está apareciendo en todas partes a medida que las herramientas de IA se vuelven más accesibles. Cualquiera puede generar este tipo de contenido, pero suele aparecer donde cumple un propósito específico. A veces, está diseñado para engañar, ya sea a través de imágenes virales falsas, clickbait escrito por IA o contenido que pretende ser real. Otras veces, se utiliza para generar tráfico, con cuentas de redes sociales y foros que producen publicaciones generadas por IA solo para obtener interacción. También está el juego del SEO, con sitios web enteros construidos a partir de contenido de baja calidad generado por IA, diseñados no para informar, sino para manipular los rankings de búsqueda. Y a veces, este contenido existe sin un motivo real, simplemente porque la gente puede hacerlo.

¿Por qué es tan malo el contenido generado por IA? A menudo, se debe a que se basa en fundamentos apresurados y poco sólidos, con poca o ninguna supervisión humana. Las herramientas de IA son tan buenas como las instrucciones que reciben. Si alguien no sabe cómo formular un buen aviso o simplemente se apresura, el resultado suele ser genérico, inexacto, extraño o una combinación de los tres. El problema se agrava cuando la IA se automatiza a gran escala, con empresas produciendo contenido en masa sin control de calidad.

Y el problema no se detiene ahí. Los modelos de IA están siendo entrenados cada vez más con datos generados por IA, creando un ciclo de retroalimentación de contenido malo. Si un sistema de IA recibe datos mal etiquetados, de baja calidad o sesgados, sus resultados reflejarán eso. Con el tiempo, empeora: el contenido generado por IA crea más contenido generado por IA.

Además, debemos recordar que la mayoría de los modelos de lenguaje grande (LLMs) no están diseñados para ser máquinas de verdad; están construidos para imitar los patrones de habla humana. Y ahí es donde comienza el verdadero problema.

Pero el hecho es que el contenido generado por IA no se difundiría tan fácilmente si las plataformas realmente quisieran detenerlo. Sin embargo, en lugar de actuar, algunos de los peores infractores parecen estar abrazándolo. Una solución simple podría ser penalizar el spam generado por IA limitando su alcance en plataformas como Facebook. Pero eso no está sucediendo, al menos no todavía. En muchos casos, las plataformas se benefician de la interacción que trae el contenido generado por IA.

Según Fortune, Mark Zuckerberg dijo: “Creo que vamos a agregar una nueva categoría de contenido que es generado por IA o contenido resumido por IA, o contenido existente recopilado por IA de alguna manera”. No se habla de una mejor moderación. Solo una invitación abierta a más de ello.

¿Deberíamos preocuparnos por el aumento del contenido generado por IA? No siempre es fácil distinguir el contenido generado por IA del real. A veces, es obvio: una mano con nueve dedos o un texto tan extraño que resulta cómico. Pero a medida que la IA se vuelve más sofisticada, las diferencias son más difíciles de detectar, y eso es un problema por varias razones. La IA puede generar información que suena convincente pero que no es real. Y cuando algo suena realista, es más difícil separar la verdad de la ficción. Esto es especialmente cierto en ciertos contextos. Si una imagen generada por IA aparece en un tuit ofensivo, la gente tiende a examinarla. Pero cuando esa misma imagen de IA se publica en una página de Facebook sobre destinos de viaje de ensueño, es mucho más probable que se tome al pie de la letra. Lo mismo ocurre con las noticias generadas por IA o el contenido que parece autoritario; si algo parece creíble, es menos probable que lo cuestionemos.

Y si perdemos la capacidad de distinguir entre lo real y lo falso, tenemos un problema serio. Ya estamos viendo los efectos de la desinformación en línea. El contenido generado por IA no solo engaña, sino que erosiona la confianza en la información misma. Y una vez que esa confianza se pierde, ¿cómo cambia nuestra interacción con Internet? En su peor momento, podría llevar a una desconfianza total en todo. El aumento del periodismo generado por IA y una creciente dependencia de fuentes inexactas solo agravan el problema. Incluso si pudiéramos separar perfectamente el contenido generado por IA del creado por humanos, el volumen de basura que inunda Internet, ahogando información de calidad, es un desastre en sí mismo.

Luego está el costo ambiental. El contenido generado por IA requiere una gran potencia de cálculo, consumiendo energía a un ritmo alarmante. Cuando la IA se utiliza para tareas verdaderamente útiles, esa compensación puede tener sentido. Pero, ¿realmente estamos dispuestos a consumir recursos solo para producir un sinfín de contenido de baja calidad?

Y finalmente, está el ciclo de entrenamiento de la IA. Piensa en ello: la IA aprende de los datos de Internet. Pero si Internet está cada vez más inundado de basura generada por IA, entonces los futuros modelos de IA se entrenarán con eso, produciendo resultados aún más deficientes. Ya estamos profundamente inmersos en esta situación, y está empeorando.

¿Cómo detectar el contenido generado por IA? Este tipo de contenido no es nuevo; el contenido falso y engañoso siempre ha existido, pero a medida que la IA mejora, detectarlo se vuelve más difícil. Afortunadamente, hay señales de advertencia. Una de las más evidentes es la rareza visual. Las imágenes y videos generados por IA a menudo tienen una calidad extraña, con mezclas raras, manos distorsionadas o fondos que no tienen sentido. Estas imperfecciones pueden no ser obvias a primera vista, pero tienden a revelarse cuanto más se observa.

Con el texto escrito por IA, las señales de alerta son diferentes. El lenguaje a menudo se siente vago, excesivamente genérico o lleno de palabras de moda, careciendo de la profundidad o matices que esperarías de un texto humano. A veces, hay saltos lógicos extraños: oraciones que suenan bien individualmente, pero que no se conectan del todo al leerlas juntas. La repetición es otra pista, ya que los modelos de IA tienden a reformular la misma idea de maneras ligeramente diferentes en lugar de ofrecer nuevas perspectivas.

Otro paso clave es verificar la fuente. ¿El contenido proviene de un medio de noticias confiable o de un creador reputado, o es de una cuenta viral aleatoria sin autoría clara? Si algo parece extraño, buscar fuentes adicionales o contrastar con sitios web creíbles puede ayudar a confirmar si es real.

Y si usas IA tú mismo, la responsabilidad es importante. Escribir avisos reflexivos, verificar los resultados y usar la IA como una herramienta para refinar en lugar de reemplazar la creatividad humana puede ayudar a prevenir la difusión de contenido de baja calidad y engañoso. Verificar la información, ser cauteloso con las alucinaciones de IA y evaluar críticamente lo que compartes son pasos esenciales. Porque al final del día, nadie quiere ser un productor de contenido de mala calidad.

Algunos siempre usarán la nueva tecnología de maneras perjudiciales, y el contenido generado por IA es prueba de ello. No podemos retroceder y deshacer lo fácil que es acceder a las herramientas de IA (aunque algunos argumentarían que deberíamos). En lugar de sentirnos impotentes, necesitamos mejorar en la identificación de este tipo de contenido y, con suerte, construir mejores herramientas para contrarrestarlo.

Desafortunadamente, las empresas de redes sociales no parecen interesadas en ayudar. Pero empresas como Google y OpenAI al menos dicen que están trabajando en formas de detectar mejor el spam generado por IA y producir respuestas más seguras y útiles. Lo cual suena bien, pero a menos que las cosas cambien pronto, estaremos navegando por un mar de contenido de mala calidad para siempre.