El Senado del estado de California aprobó el sábado por la mañana un importante proyecto de ley sobre la seguridad de la inteligencia artificial (IA), que establece nuevos requisitos de transparencia para las grandes empresas. El senador estatal Scott Wiener, autor de la ley SB 53, explicó que esta legislación “exige a los grandes laboratorios de IA ser transparentes sobre sus protocolos de seguridad, crea protecciones para denunciantes en estos laboratorios y establece una nube pública para ampliar el acceso a la computación (CalCompute)”.
Ahora, el proyecto de ley se enviará al gobernador de California, Gavin Newsom, para que lo firme o lo vete. Hasta ahora, Newsom no ha comentado públicamente sobre la SB 53, pero el año pasado vetó un proyecto de ley de seguridad más amplio también propuesto por Wiener, aunque firmó una legislación más específica que aborda problemas como los deepfakes. En ese momento, Newsom reconoció la importancia de “proteger al público de las amenazas reales que plantea esta tecnología”, pero criticó el proyecto anterior de Wiener por aplicar “normas estrictas” a modelos grandes sin considerar si estaban “desplegados en entornos de alto riesgo, involucraban decisiones críticas o el uso de datos sensibles”.
Wiener mencionó que la nueva ley fue influenciada por recomendaciones de un panel de expertos en políticas de IA que Newsom convocó tras su veto. Además, se informó que la SB 53 fue recientemente modificada para que las empresas que desarrollan modelos de IA “fronterizos” y que generan menos de 500 millones de dólares anuales solo necesiten revelar detalles de seguridad a un nivel general, mientras que las empresas con ingresos superiores a esa cifra deberán proporcionar informes más detallados.
El proyecto ha enfrentado oposición de varias empresas de Silicon Valley, firmas de capital de riesgo y grupos de cabildeo. En una carta reciente a Newsom, OpenAI no mencionó específicamente la SB 53, pero argumentó que para evitar “duplicaciones e inconsistencias”, las empresas deberían considerarse en cumplimiento con las normas de seguridad estatales siempre que cumplan con los estándares federales o europeos.
Por otro lado, el responsable de políticas de IA y abogado jefe de Andreessen Horowitz afirmó que “muchos de los proyectos de ley estatales sobre IA de hoy, como las propuestas en California y Nueva York, corren el riesgo de cruzar una línea al violar los límites constitucionales sobre cómo los estados pueden regular el comercio interestatal”. Los cofundadores de a16z habían señalado anteriormente la regulación tecnológica como uno de los factores que los llevaron a respaldar la candidatura de Donald Trump para un segundo mandato. La administración Trump y sus aliados pidieron posteriormente una prohibición de 10 años sobre la regulación estatal de la IA. Mientras tanto, Anthropic ha expresado su apoyo a la SB 53. “Siempre hemos dicho que preferiríamos un estándar federal”, comentó Jack Clark, cofundador de Anthropic. “Pero en ausencia de eso, esto crea un sólido esquema para la gobernanza de la IA que no puede ser ignorado”.
