La empresa de inteligencia artificial de Elon Musk, xAI, no cumplió con su propio plazo para publicar un marco de seguridad de IA, según el grupo de vigilancia The Midas Project. xAI no es precisamente conocida por su fuerte compromiso con la seguridad de la IA. Un informe reciente reveló que su chatbot, Grok, puede desvestir fotos de mujeres cuando se le pide y es bastante grosero en comparación con otros chatbots como Gemini y ChatGPT.
En febrero, durante la Cumbre de IA de Seúl, un evento global de líderes y partes interesadas en IA, xAI presentó un borrador que describía su enfoque hacia la seguridad de la IA. Este documento de ocho páginas detallaba las prioridades y la filosofía de seguridad de xAI, incluyendo sus protocolos de evaluación y consideraciones para el despliegue de modelos de IA. Sin embargo, como señaló The Midas Project en un blog, el borrador solo se aplicaba a modelos de IA futuros que “no están actualmente en desarrollo”. Además, no explicó cómo xAI identificaría e implementaría medidas para mitigar riesgos, un aspecto clave de un documento que la empresa firmó en la Cumbre de IA de Seúl.
En el borrador, xAI mencionó que planeaba lanzar una versión revisada de su política de seguridad “dentro de tres meses”, es decir, para el 10 de mayo. Sin embargo, esa fecha pasó sin que xAI hiciera ningún anuncio en sus canales oficiales. A pesar de las frecuentes advertencias de Musk sobre los peligros de una IA sin control, xAI tiene un historial deficiente en cuanto a la seguridad de la IA. Un estudio reciente de SaferAI, una organización sin fines de lucro que busca mejorar la responsabilidad de los laboratorios de IA, encontró que xAI ocupa un lugar bajo entre sus competidores debido a sus prácticas de gestión de riesgos “muy débiles”.
Esto no significa que otros laboratorios de IA estén mucho mejor. En los últimos meses, competidores de xAI, como Google y OpenAI, han apresurado las pruebas de seguridad y han sido lentos en publicar informes de seguridad de modelos, o incluso han omitido publicarlos por completo. Algunos expertos han expresado su preocupación de que la aparente falta de prioridad en los esfuerzos de seguridad esté ocurriendo en un momento en que la IA es más capaz y, por lo tanto, potencialmente más peligrosa que nunca.
