El senador estatal de California, Scott Wiener, presentó el miércoles nuevas enmiendas a su proyecto de ley más reciente, el SB 53. Este proyecto exigiría a las empresas de inteligencia artificial más grandes del mundo que publiquen protocolos de seguridad y emitan informes cuando ocurran incidentes de seguridad. Si se aprueba, California sería el primer estado en imponer requisitos de transparencia significativos a los principales desarrolladores de IA, como OpenAI, Google, Anthropic y xAI.
El proyecto de ley anterior de Wiener, el SB 1047, incluía requisitos similares para que los desarrolladores de modelos de IA publicaran informes de seguridad. Sin embargo, Silicon Valley se opuso fuertemente a esa propuesta, que fue finalmente vetada por el gobernador Gavin Newsom. Posteriormente, el gobernador convocó a un grupo de líderes en IA, incluyendo a la investigadora de Stanford Fei Fei Li, para formar un grupo de políticas y establecer objetivos para la seguridad de la IA en el estado. Este grupo recientemente publicó recomendaciones finales, destacando la necesidad de que la industria publique información sobre sus sistemas para crear un entorno de evidencia robusto y transparente. La oficina del senador Wiener indicó que las enmiendas al SB 53 fueron influenciadas por este informe.
El senador Wiener comentó que el proyecto de ley sigue en desarrollo y que espera trabajar con todos los interesados para perfeccionarlo. El SB 53 busca encontrar un equilibrio que el gobernador Newsom afirmó que el SB 1047 no logró, es decir, crear requisitos de transparencia sin frenar el crecimiento de la industria de IA en California. Nathan Calvin, vicepresidente de Asuntos Estatales del grupo sin fines de lucro Encode, mencionó que es fundamental que las empresas expliquen al público y al gobierno las medidas que están tomando para abordar estos riesgos.
Además, el proyecto de ley establece protecciones para denunciantes en laboratorios de IA que crean que la tecnología de su empresa representa un “riesgo crítico” para la sociedad, definido como contribuir a la muerte o lesión de más de 100 personas o causar daños superiores a $1,000 millones. También se propone crear CalCompute, un clúster de computación en la nube pública para apoyar a startups e investigadores en el desarrollo de IA a gran escala. Con las nuevas enmiendas, el SB 53 se dirige ahora al Comité de Privacidad y Protección al Consumidor de la Asamblea Estatal de California para su aprobación. Si se aprueba allí, el proyecto deberá pasar por otros cuerpos legislativos antes de llegar al escritorio del gobernador Newsom.
Mientras tanto, en Nueva York, la gobernadora Kathy Hochul está considerando un proyecto de ley similar sobre seguridad en IA, el RAISE Act, que también exigiría a los grandes desarrolladores de IA que publiquen informes de seguridad. La suerte de leyes estatales sobre IA como el RAISE Act y el SB 53 estuvo en peligro cuando legisladores federales consideraron una moratoria de 10 años sobre la regulación estatal de IA, pero esa propuesta fracasó en una votación del Senado.
Geoff Ralston, ex presidente de Y Combinator, afirmó que asegurar que la IA se desarrolle de manera segura no debería ser controvertido, sino fundamental. Sin embargo, hasta ahora, los legisladores no han logrado que las empresas de IA acepten requisitos de transparencia. Anthropic ha apoyado la necesidad de mayor transparencia, pero empresas como OpenAI, Google y Meta han sido más reacias. Aunque los desarrolladores de modelos de IA suelen publicar informes de seguridad, lo han hecho de manera menos consistente en los últimos meses. Por ejemplo, Google decidió no publicar un informe de seguridad para su modelo de IA más avanzado, Gemini 2.5 Pro, hasta meses después de su lanzamiento.
El SB 53 representa una versión más moderada de proyectos de ley anteriores sobre seguridad en IA, pero aún podría obligar a las empresas de IA a publicar más información de la que hacen actualmente. Por ahora, estarán atentos mientras el senador Wiener prueba nuevamente esos límites.
