Casi la mitad de los equipos de TI no saben qué datos acceden sus agentes de inteligencia artificial a diario. Las empresas están entusiasmadas con los agentes de IA, pero también temen lo que hacen en el trasfondo. Ahora, estas herramientas de IA necesitan supervisión, registros de auditoría y control, al igual que los empleados humanos.
A pesar del creciente interés en la IA en los negocios, una nueva investigación sugiere que la rápida expansión de estas herramientas está superando los esfuerzos para asegurar su uso. Una encuesta de SailPoint, realizada a 353 profesionales de TI responsables de la seguridad empresarial, ha revelado una mezcla de optimismo y ansiedad respecto a los agentes de IA. El 98% de las organizaciones planea aumentar su uso de agentes de IA en el próximo año.
Los agentes de IA se están integrando en operaciones que manejan datos sensibles de las empresas, como registros de clientes, información financiera, documentos legales y transacciones de la cadena de suministro. Sin embargo, el 96% de los encuestados considera que estos agentes representan una creciente amenaza a la seguridad. Un problema clave es la visibilidad: solo el 54% de los profesionales afirma tener pleno conocimiento de los datos a los que pueden acceder sus agentes, lo que deja a casi la mitad de los entornos empresariales sin información sobre cómo interactúan estos agentes con información crítica.
Además, el 92% de los encuestados coincidió en que es crucial gobernar a los agentes de IA para garantizar la seguridad, pero solo el 44% tiene una política real al respecto. Ocho de cada diez empresas mencionan que sus agentes de IA han tomado acciones no autorizadas, como acceder a sistemas no permitidos (39%), compartir datos inapropiados (33%) y descargar contenido sensible (32%).
Aún más preocupante, el 23% de los encuestados admitió que sus agentes de IA han sido engañados para revelar credenciales de acceso, lo que representa un riesgo para la seguridad. Un dato notable es que el 72% cree que los agentes de IA presentan mayores riesgos que las identidades de máquinas tradicionales. Esto se debe a que los agentes de IA a menudo requieren múltiples identidades para funcionar de manera eficiente, especialmente cuando se integran con herramientas de IA de alto rendimiento o sistemas utilizados para desarrollo y redacción.
Las voces que piden un cambio hacia un modelo centrado en la identidad son cada vez más fuertes, pero SailPoint y otros argumentan que las organizaciones deben tratar a los agentes de IA como usuarios humanos, con controles de acceso, mecanismos de responsabilidad y registros de auditoría completos. Los agentes de IA son una adición relativamente nueva en el ámbito empresarial, y tomará tiempo para que las organizaciones los integren completamente en sus operaciones. SailPoint concluyó que muchas organizaciones aún están al principio de este camino, y las crecientes preocupaciones sobre el control de datos resaltan la necesidad de estrategias de seguridad de identidad más sólidas y completas.
