Una nueva tendencia preocupante está ganando popularidad: las personas están utilizando ChatGPT para identificar lugares que aparecen en fotos. Esta semana, OpenAI lanzó sus nuevos modelos de inteligencia artificial, o3 y o4-mini, que pueden “razonar” a partir de imágenes que se suben. Estos modelos pueden recortar, rotar y hacer zoom en fotos, incluso si están borrosas o distorsionadas, para analizarlas a fondo. Esta capacidad de análisis de imágenes, junto con la habilidad de buscar en la web, convierte a estos modelos en herramientas poderosas para encontrar ubicaciones. Los usuarios en X (anteriormente Twitter) descubrieron rápidamente que o3 es muy bueno deduciendo ciudades, monumentos e incluso restaurantes y bares a partir de pistas visuales sutiles.
Esto plantea un problema evidente de privacidad. No hay nada que impida que alguien tome una captura de pantalla, por ejemplo, de una historia de Instagram y use ChatGPT para intentar identificar a la persona.
Aunque esto ya se podía hacer antes del lanzamiento de o3 y o4-mini, se realizaron pruebas comparativas entre o3 y un modelo anterior, GPT-4o, que no tenía capacidades de razonamiento de imágenes. Sorprendentemente, GPT-4o llegó a la misma respuesta correcta que o3 en muchas ocasiones y lo hizo más rápido. Sin embargo, en al menos una prueba, o3 identificó un lugar que GPT-4o no pudo. Cuando se le mostró una foto de una cabeza de rinoceronte montada en un bar con poca luz, o3 respondió correctamente que era de un speakeasy en Williamsburg, mientras que GPT-4o pensó que era un pub del Reino Unido.
Esto no significa que o3 sea infalible. Varios de nuestros tests fallaron; o3 se quedó atrapado en un bucle sin poder llegar a una respuesta confiable o proporcionó una ubicación incorrecta. Los usuarios en X también notaron que o3 puede estar bastante equivocado en sus deducciones de ubicación. Esta tendencia ilustra algunos de los riesgos emergentes que presentan los modelos de inteligencia artificial más avanzados. Parece haber pocas medidas de seguridad para prevenir este tipo de “búsqueda inversa de ubicación” en ChatGPT, y OpenAI, la empresa detrás de ChatGPT, no aborda este problema en su informe de seguridad para o3 y o4-mini. Hemos contactado a OpenAI para obtener comentarios y actualizaremos nuestro artículo si responden.
