Meta ha hecho disponible su Marco de IA Frontier para todos. La empresa expresa su preocupación por las amenazas a la ciberseguridad que puede generar la inteligencia artificial. Este marco clasifica los modelos de IA en categorías críticas, altas o moderadas.
A pesar de las intenciones del CEO Mark Zuckerberg de hacer que la inteligencia artificial general (AGI) esté accesible para todos, Meta ha revelado algunas inquietudes sobre el futuro de la IA. Su nuevo Marco de IA Frontier examina riesgos “críticos” que la IA podría presentar, incluyendo sus posibles implicaciones en la ciberseguridad y en armas químicas y biológicas.
Al hacer sus pautas públicas, Meta espera colaborar con otros líderes de la industria para “anticipar y mitigar” estos riesgos, identificando posibles resultados “catastróficos” y modelando amenazas para establecer límites. En un blog, la compañía afirmó que “la apertura de la IA no es opcional; es esencial”. Compartir investigaciones ayuda a las organizaciones a aprender unas de otras y fomenta la innovación.
El marco funciona mediante la realización periódica de ejercicios de modelado de amenazas para complementar sus evaluaciones de riesgo de IA. Este modelado se utilizará si se identifica un modelo de IA que podría “exceder las capacidades actuales”, convirtiéndose en una amenaza. Los procesos son guiados por expertos internos y externos, resultando en una de tres categorías negativas: ‘crítica’, donde el desarrollo del modelo debe detenerse; ‘alta’, donde el modelo no debe ser lanzado en su estado actual; y ‘moderada’, donde se considera más la estrategia de lanzamiento.
Algunas amenazas incluyen el descubrimiento y explotación de vulnerabilidades de día cero, estafas automatizadas y el desarrollo de agentes biológicos de alto impacto.
Meta también señala que, aunque el enfoque de este marco es anticipar y mitigar riesgos de resultados catastróficos, es importante recordar que el desarrollo de sistemas avanzados de IA tiene un gran potencial para beneficiar a la sociedad. La empresa se compromete a actualizar su marco con la ayuda de académicos, responsables de políticas, organizaciones de la sociedad civil, gobiernos y la comunidad de IA en general a medida que la tecnología siga evolucionando.
