Google Cloud ha lanzado una nueva suite de seguridad llamada AI Protection, diseñada para proteger los activos de inteligencia artificial (IA) de posibles vulnerabilidades. Esta herramienta ayudará a las empresas a tener una visión centralizada de su situación en cuanto a la IA, permitiéndoles gestionar riesgos y detectar amenazas antes de que se conviertan en un problema.
Archana Ramamoorthy, Directora Senior de Gestión de Productos en Google Cloud Security, comentó que a medida que el uso de la IA aumenta, la seguridad sigue siendo una preocupación importante. Las organizaciones están preocupadas por los riesgos que pueden surgir con la adopción rápida de esta tecnología. Google Cloud se compromete a ayudar a sus clientes a construir y desplegar IA de manera segura y privada.
AI Protection se integrará en el Centro de Comando de Seguridad (SCC), ofreciendo un sistema de gestión de seguridad de IA junto con otros riesgos en la nube. Entre las funciones principales de esta nueva plataforma se encuentran:
– **Descubrimiento de Inventario de IA**: Identifica y evalúa los activos de IA para detectar vulnerabilidades.
– **Seguridad de Activos de IA**: Implementa controles y políticas para proteger los recursos de IA.
– **Gestión de Amenazas**: Proporciona mecanismos para detectar, investigar y responder a amenazas relacionadas con la IA.
Además, Google Cloud ha mejorado su Protección de Datos Sensibles (SDP), que ahora se aplica a los conjuntos de datos de Vertex AI, permitiendo el descubrimiento y clasificación automática de datos sensibles. Una vez que se detectan estos datos, AI Protection utilizará el equipo virtual de SCC para identificar posibles caminos de ataque en los sistemas de IA y sugerir pasos para remediar las amenazas.
También se ha lanzado Model Armor, una función clave de AI Protection, que protege contra ataques de inyección de comandos y jailbreak, pérdida de datos, URL maliciosas y contenido ofensivo. Esta herramienta se puede integrar en aplicaciones a través de REST API, Apigee y pronto en Vertex AI.
Por último, AI Protection utilizará inteligencia de seguridad y investigación de Google y Mandiant para defender los sistemas de IA. Se podrán detectar intentos de acceso inicial, escalación de privilegios y persistencia en las cargas de trabajo de IA mediante SCC. Nuevos detectores para AI Protection, basados en la inteligencia más reciente, estarán disponibles pronto para ayudar a identificar y gestionar amenazas en tiempo de ejecución, como el secuestro de modelos fundamentales.
