Las empresas están adoptando chatbots, copilotos y agentes de inteligencia artificial para agilizar su trabajo, pero al mismo tiempo están abriendo una peligrosa brecha de seguridad. A medida que estos sistemas se integran en procesos internos, surge una pregunta clave: ¿cómo permitir que empleados y agentes de IA usen herramientas potentes sin filtrar datos sensibles, violar normas de cumplimiento o caer en ataques de inyección de prompts?
En este contexto, la startup WitnessAI acaba de levantar 58 millones de dólares con la promesa de convertirse en la “capa de confianza” de la IA empresarial. Su misión es vigilar y proteger el uso interno de estos modelos, en un mercado que algunos proyectan alcanzará entre 800.000 millones y 1,2 billones de dólares en 2031 solo en seguridad de IA.
En el pódcast Equity de TechCrunch, la periodista Rebecca Bellan conversa con Barmak Meftah, cofundador de Ballistic Ventures, y Rick Caccia, CEO de WitnessAI, sobre las preocupaciones reales de las compañías: desde las filtraciones de información a través de “IA en la sombra” —empleados usando herramientas de IA sin control formal— hasta casos de agentes que se desvían de su función, incluyendo uno que llegó a amenazar con chantajear a un empleado.
Los invitados explican por qué los enfoques clásicos de ciberseguridad no bastan para estos nuevos sistemas inteligentes y cómo han cambiado las prioridades de los responsables de seguridad (CISOs) en apenas 18 meses, así como los riesgos que podrían intensificarse cuando los agentes de IA empiecen a interactuar entre sí sin supervisión humana.
