En un movimiento inesperado hacia la gobernanza de la inteligencia artificial a nivel global, China y Estados Unidos han colaborado para desarrollar el primer estándar internacional de seguridad para modelos de lenguaje grande en las cadenas de suministro. Esta iniciativa surge de los esfuerzos conjuntos de gigantes chinos como Ant, Baidu y Tencent, junto con empresas estadounidenses como Google, Meta y Microsoft. El proyecto, llamado “Requisitos de Seguridad para Modelos de Lenguaje Grande en la Cadena de Suministro”, fue presentado hoy en la Academia Mundial de Tecnología Digital (WDTA) en Shanghái.
Este nuevo estándar tiene como objetivo abordar todo el ciclo de vida de los modelos de lenguaje grande (LLMs) para prevenir riesgos de seguridad como filtraciones de datos, manipulación de modelos y falta de cumplimiento por parte de los proveedores. Instituciones académicas y del sector, como la Cloud Security Alliance de la Región de China Continental y la Universidad Tecnológica de Nanyang en Singapur, se unieron a las empresas estadounidenses y chinas para redactar y revisar esta guía. Juntas, estas entidades forman el grupo de Seguridad, Confianza y Responsabilidad en IA (AI STR).
Peter Major, presidente de la Comisión de las Naciones Unidas sobre Ciencia y Tecnología para el Desarrollo y presidente honorario de la WDTA, comentó: “La cooperación internacional en estándares relacionados con la IA se ha vuelto cada vez más crucial a medida que la inteligencia artificial avanza e impacta diversos sectores a nivel global”.
En un comunicado, la WDTA añadió: “Esta cooperación internacional es esencial para gestionar los riesgos asociados con la IA mientras se maximiza sus beneficios para todas las sociedades”. A medida que las tecnologías de IA generativa continúan desarrollándose, las empresas han solicitado medidas más estrictas para mejorar la seguridad. Sam Altman, CEO de OpenAI, anteriormente abogó por “esfuerzos de seguridad integrales”.
A pesar de las intenciones de Estados Unidos de frenar los avances tecnológicos y militares de China mediante restricciones a la exportación, ambas naciones han cooperado en este esfuerzo, subrayando la importancia de establecer directrices claras y mutuamente aceptables. Además, China se convirtió en el primer país del mundo en regular la IA generativa, mientras que otras naciones y regiones siguen intentando alcanzar este nivel de regulación.
