La semana pasada, compartí mi frustración porque ChatGPT no mostraba el texto que quería en una imagen. Sin embargo, ahora parece que ese problema se ha solucionado y puedo crear imágenes llenas de texto que se ven muy convincentes. De hecho, son demasiado convincentes. ChatGPT es el primer creador de imágenes de IA disponible de forma gratuita que puede generar texto creíble. La gente ya ha notado que las imágenes de ChatGPT son tan buenas que se pueden usar para falsificar recibos.
Esto significa que ahora tendremos que ser aún menos confiables con las imágenes que vemos en línea, ya que será más difícil distinguir entre imágenes falsas y reales. Pero, ¿hay algo que podamos hacer para identificar las falsificaciones generadas por IA?
Cada imagen en tu computadora o teléfono tiene metadatos que indican dónde fue creada y con qué aplicación. Las imágenes generadas por ChatGPT no son la excepción, y sus metadatos contienen toda la información necesaria. En Mac, puedes descargar la imagen, hacer clic derecho en ella en Finder y seleccionar “Obtener información”. En la parte de “Dónde:” de los metadatos, verás “ChatGPT.com”. En Windows, debes ir a “Explorador de archivos”, localizar la imagen, hacer clic derecho y seleccionar “Propiedades”. Luego, en la pestaña “Detalles”, encontrarás la información sobre la aplicación de la que proviene la imagen.
Sin embargo, en nuestras pruebas, no pudimos hacer que Windows mostrara la parte de los metadatos que indicaba que el archivo fue creado en ChatGPT. En un iPhone, al tocar el ícono de información en una imagen en Fotos, dice “Guardado desde ChatGPT”. En Android, al igual que en Windows, no pudimos ver nada en los metadatos que indicara que la imagen fue creada por ChatGPT.
El problema es que, incluso si puedes ver los metadatos, no puedes confiar en ellos. Es posible editarlos, y aunque no es fácil, si alguien está lo suficientemente decidido, encontrará la manera. Además, subir una imagen a un servicio en línea y luego descargarla puede eliminar muchos de los metadatos.
Si no puedes confiar en los metadatos, ¿qué más puedes hacer? Hay muchos verificadores en línea que te dirán la probabilidad de que una imagen sea generada por IA. Generalmente funcionan bien, pero he encontrado que las nuevas imágenes de texto de ChatGPT pueden ser tan realistas que los engañan por completo. Por ejemplo, subí nuestra imagen de recibo falso “TasteRadar” a Sightengine, que siempre ha sido confiable, y me dio un 7% de probabilidad de que fuera generada por IA, sugiriendo que era más probable que fuera real.
Esto me preocupa. Si los sitios de verificación de imágenes de IA pueden ser engañados por las nuevas imágenes de ChatGPT, todos estamos en problemas. En este momento, creo que aún podría identificar si una imagen es falsa. Hay una regularidad en el texto que produce ChatGPT que parece demasiado perfecto para haber sido impreso realmente, pero tengo la sensación de que me estoy engañando si digo que puedo identificarlo en cada imagen que veo. Y, por supuesto, esto solo mejorará con el tiempo.
Si las imágenes de IA son tan buenas que no podemos distinguir si son reales o no, tendremos que cuestionar todo lo que vemos y escuchamos de ahora en adelante.
