Si has visto el lanzamiento del nuevo ChatGPT Agent de OpenAI, o si eres usuario de Plus, Pro o Teams y has probado el nuevo ‘modo agente’, seguramente te ha impresionado esta innovación en inteligencia artificial. ChatGPT Agent está diseñado para realizar tareas complejas del mundo real, como planificar una boda, reservar un servicio para tu coche, crear una aplicación para resolver un problema o planificar y reservar unas vacaciones.
Al igual que el agente anterior de OpenAI llamado Operator, ChatGPT Agent actúa como una persona real que trabaja para ti, realizando tareas como si tuviera su propia computadora. De hecho, puedes observar lo que está sucediendo en su ‘escritorio’ mientras lleva a cabo estas tareas; puedes ver cómo arrastra ventanas y completa formularios en sitios web, por ejemplo. El concepto es un agente unificado que puede encargarse del trabajo pesado, tomar decisiones informadas sobre qué sitios web utilizar y navegar por la web de manera independiente. ChatGPT Agent puede hacerlo todo, y puedes verlo trabajar si lo deseas, pero hay un inconveniente.
Las poderosas capacidades de ChatGPT Agent también abren la puerta a nuevos riesgos de seguridad. “Como sabemos, Internet puede ser un lugar aterrador”, dijo Casey Chu durante la presentación del lanzamiento de ChatGPT Agent. “Hay todo tipo de hackers tratando de robar tu información, estafas, intentos de phishing, y el agente no es inmune a estas cosas”. Esto es preocupante. Chu continuó: “Una de las cosas que nos preocupa es un nuevo ataque llamado ‘inyecciones de comandos’. El agente podría encontrarse con un sitio web malicioso que le pida ingresar tu información de tarjeta de crédito porque le ayudará con su tarea, y el agente, que está entrenado para ser útil, podría pensar que es una buena idea”.
Esto significa que no solo debemos preocuparnos por ser víctimas de phishing en el futuro, sino también por nuestras IA. “Hemos trabajado mucho para asegurarnos de que esto no suceda”, continuó Chu. “Entrenamos nuestro modelo para ignorar instrucciones sospechosas en sitios web dudosos. También tenemos capas de monitores que observan al agente y detienen cualquier acción que parezca sospechosa”. Mi primer pensamiento al escuchar esto fue que nunca le daría mi información de tarjeta de crédito a ChatGPT Agent, y definitivamente no lo haría ahora. La única razón por la que mi tarjeta de crédito está con Amazon y Apple es porque parecen lugares seguros, así que la conveniencia vale la pena, pero solo se necesitaría un indicio de que no son seguros y yo, probablemente junto con millones de personas, dejaría de almacenar mi información de tarjeta de crédito con ellos.
La confianza es fundamental en la seguridad en línea. La idea de que un agente de IA, sin importar cuántas verificaciones de antecedentes realice, decida de manera autónoma en qué gasto mi dinero ya me llena de temor. Y cuando se añade el factor de que podrían existir sitios maliciosos haciendo ‘inyecciones de comandos’ para intentar engañar a mi IA y hacerle revelar información, me asusta lo suficiente como para no querer confiar en ello.
Cabe mencionar que hay un ‘modo de toma de control’ con ChatGPT Agent, donde ingresas la información sensible directamente en el navegador tú mismo, en lugar de entregársela al agente. Eso parece ser una mejor manera de utilizar un agente. No creo que esté listo para darle a mi IA el poder de gastar mi dinero a su antojo, y apuesto a que no soy el único.
OpenAI parece ser bastante transparente sobre los riesgos de usar ChatGPT Agent con información sensible, y como dijo el CEO Sam Altman en la presentación, esta es una tecnología emergente y aún no sabemos cuáles serán todas las amenazas. Tendremos que ver qué sucede a medida que las personas comiencen a usarla.
Pero eso es lo que más me preocupa: ¿qué pasará cuando las personas empiecen a usar IA para vencer a la IA? Estoy seguro de que los hackers no dudarán en usar IA para eludir nuestros protocolos de seguridad, y la IA probablemente ideará una serie de ataques que aún no hemos considerado.
