El COO de Google Cloud, Francis de Souza, defiende que la seguridad debe ser el pilar central de cualquier estrategia de inteligencia artificial, advirtiendo del riesgo del llamado “shadow AI”, donde empleados utilizan herramientas de consumo sin control corporativo. Insiste en que no puede haber estrategia de IA sin una estrategia de datos y de seguridad, y que las empresas deben proteger no solo redes tradicionales, sino también modelos, tuberías de datos, agentes y prompts, con defensas automatizadas a “velocidad máquina” y supervisión de alto nivel directivo.
Sin embargo, el propio ecosistema de Google muestra grietas. Varios desarrolladores denunciaron facturas de miles de dólares por uso no autorizado de las APIs de Gemini, a través de claves originalmente pensadas para Google Maps que ampliaron silenciosamente su alcance. En algunos casos, el sistema de facturación elevó de forma automática los límites de gasto hasta 100.000 dólares sin un consentimiento claro, exponiendo a pequeñas empresas a un fuerte riesgo financiero. Aunque Google reembolsó a las víctimas tras la cobertura mediática, mantiene su política de subir de nivel las cuentas para priorizar la continuidad del servicio frente a los topes de presupuesto fijados por el usuario.
A esto se suma otro problema técnico: según la firma de seguridad Aikido, las claves API clásicas de Google pueden seguir siendo utilizables hasta 23 minutos después de su supuesta revocación, lo que concede a atacantes una ventana significativa para extraer datos y seguir realizando peticiones, a diferencia de otros formatos de credenciales de la propia compañía que se invalidan mucho más rápido. Para los investigadores, esta diferencia demuestra que se trata más de una cuestión de prioridades que de una limitación técnica.
El contraste entre el discurso de De Souza —plataformas seguras, gobierno robusto, defensa automatizada— y los fallos detectados en Google Cloud subraya la brecha entre lo que los grandes proveedores de IA recomiendan a las empresas y la velocidad a la que ellos mismos están adaptando sus sistemas. Mientras crece la demanda de expertos en ciberseguridad especializados en IA, queda claro que el sector todavía está lejos de entender y controlar plenamente los nuevos riesgos que introduce esta tecnología.
