Meredith Whittaker, presidenta de Signal, advirtió el viernes que la inteligencia artificial (IA) con capacidades autónomas podría poner en riesgo la privacidad de los usuarios. Durante su intervención en la conferencia SXSW en Austin, Texas, Whittaker, defensora de las comunicaciones seguras, comparó el uso de agentes de IA con “poner tu cerebro en un frasco”. Aseguró que este nuevo enfoque de la computación, donde la IA realiza tareas en nombre de los usuarios, presenta un “problema profundo” en términos de privacidad y seguridad.

Whittaker explicó que los agentes de IA se están promocionando como una forma de mejorar la vida de las personas al encargarse de diversas tareas en línea. Por ejemplo, estos agentes podrían buscar conciertos, reservar entradas, programar el evento en el calendario y enviar mensajes a tus amigos para informarles que ya está reservado. “Podemos poner nuestro cerebro en un frasco porque la IA se encarga de eso y no tenemos que hacer nada, ¿verdad?”, reflexionó.

Sin embargo, advirtió sobre el tipo de acceso que necesitaría el agente de IA para realizar estas tareas, incluyendo el acceso a nuestro navegador web, información de nuestra tarjeta de crédito para pagar entradas, nuestro calendario y la aplicación de mensajería para enviar textos a nuestros amigos. “Necesitaría poder manejar ese proceso en todo nuestro sistema con algo que se asemeje a permisos de administrador, accediendo a cada una de esas bases de datos, probablemente sin encriptar, porque no hay un modelo para hacerlo de esa manera”, alertó Whittaker.

Además, señaló que si hablamos de un modelo de IA lo suficientemente potente, es poco probable que todo el procesamiento ocurra en el dispositivo. “Casi con certeza se enviará a un servidor en la nube donde se procesará y regresará. Por lo tanto, hay un problema profundo de seguridad y privacidad que acecha este entusiasmo por los agentes, y eso amenaza con romper la barrera entre la capa de aplicación y la capa del sistema operativo al unir todos estos servicios separados y confundir sus datos”, concluyó.

Whittaker también mencionó que si una aplicación de mensajería como Signal se integrara con agentes de IA, esto socavaría la privacidad de los mensajes. El agente tendría que acceder a la aplicación para enviar mensajes a tus amigos y también recuperar datos para resumir esos textos. Sus comentarios siguieron a sus declaraciones anteriores sobre cómo la industria de la IA se ha construido sobre un modelo de vigilancia con recolección masiva de datos. Afirmó que el paradigma de “cuanto más grande, mejor” en IA —es decir, que más datos significan mejores resultados— podría tener consecuencias negativas.

Con la IA autónoma, Whittaker advirtió que se socavaría aún más la privacidad y la seguridad en nombre de un “genio mágico que se encargará de las exigencias de la vida”.