Este mes, ChatGPT presentó un nuevo generador de imágenes como parte de su modelo 4o, que es mucho mejor para crear texto dentro de las imágenes. Las personas ya lo están utilizando para generar recibos de restaurantes falsos, lo que podría sumar otra herramienta a las ya numerosas técnicas de deepfakes que usan los estafadores. Un conocido usuario de redes sociales y capitalista de riesgo, Deedy Das, publicó en X una foto de un recibo falso de un restaurante de San Francisco que dice fue creado con el modelo 4o.
Se puede usar 4o para generar recibos falsos. Hay demasiados procesos de verificación en el mundo real que dependen de “imágenes reales” como prueba. Esa era ha terminado.
Otros usuarios también lograron resultados similares, incluyendo uno que añadió manchas de comida o bebida para hacerlo parecer aún más auténtico. Un usuario comentó que en la imagen original, las letras eran demasiado perfectas y no se ajustaban al papel, pareciendo flotar sobre él.
El ejemplo más realista que encontró TechCrunch fue de un usuario de LinkedIn en Francia, quien publicó un recibo arrugado generado por IA para una cadena de restaurantes local. TechCrunch probó el modelo 4o y también pudo generar un recibo falso para un Applebee’s en San Francisco. Sin embargo, su intento tenía algunas pistas obvias de que era falso, como el uso de una coma en lugar de un punto en el total y que las cuentas no coincidían. Los modelos de lenguaje aún tienen dificultades con matemáticas básicas, lo cual no es sorprendente. Pero no sería difícil para un estafador corregir rápidamente algunos números usando software de edición de fotos o, posiblemente, indicaciones más precisas.
Es evidente que facilitar la generación de recibos falsos presenta grandes oportunidades para el fraude. No sería difícil imaginar que esta tecnología sea utilizada por personas malintencionadas para obtener reembolsos por gastos completamente falsos. Taya Christianson, portavoz de OpenAI, dijo a TechCrunch que todas sus imágenes incluyen metadatos que indican que fueron creadas por ChatGPT. Christianson añadió que OpenAI “toma medidas” cuando los usuarios violan sus políticas de uso y que siempre está “aprendiendo” de la utilización y retroalimentación en el mundo real.
TechCrunch preguntó por qué ChatGPT permite a las personas generar recibos falsos en primer lugar y si esto está en línea con las políticas de uso de OpenAI (que prohíben el fraude). Christianson respondió que el “objetivo de OpenAI es dar a los usuarios la mayor libertad creativa posible” y que los recibos falsos de IA podrían usarse en situaciones no fraudulentas, como “enseñar a las personas sobre educación financiera”, además de crear arte original y anuncios de productos.
