El lunes, Anthropic anunció su apoyo oficial al proyecto de ley SB 53 en California, propuesto por el senador estatal Scott Wiener. Esta ley sería la primera en el país en exigir transparencia a los desarrolladores de los modelos de inteligencia artificial más grandes del mundo. El respaldo de Anthropic es un gran avance para el SB 53, especialmente en un momento en que importantes grupos tecnológicos, como la CTA y la Cámara de Progreso, están en contra de la ley.
Anthropic afirmó en un blog: “Creemos que la seguridad de la inteligencia artificial avanzada debe abordarse a nivel federal, no con un mosaico de regulaciones estatales. Sin embargo, los avances en inteligencia artificial no esperarán a que haya un consenso en Washington. La pregunta no es si necesitamos gobernanza de IA, sino si la desarrollaremos de manera reflexiva hoy o de forma reactiva mañana. El SB 53 ofrece un camino sólido hacia lo primero”.
Si se aprueba, el SB 53 obligaría a desarrolladores de modelos de IA como OpenAI, Anthropic, Google y xAI a crear marcos de seguridad y a publicar informes de seguridad antes de lanzar modelos de IA potentes. También se establecerían protecciones para los denunciantes que informen sobre preocupaciones de seguridad. La ley se centra en limitar los modelos de IA que puedan contribuir a “riesgos catastróficos”, definidos como la muerte de al menos 50 personas o daños superiores a mil millones de dólares. El SB 53 se enfoca en los riesgos extremos de la IA, como el uso de modelos de IA para crear armas biológicas o en ciberataques, en lugar de preocupaciones más inmediatas como los deepfakes.
El Senado de California ya aprobó una versión anterior del SB 53, pero aún necesita una votación final antes de que pase al escritorio del gobernador. Hasta ahora, el gobernador Gavin Newsom no se ha pronunciado sobre el proyecto, aunque anteriormente vetó otro proyecto de ley de IA del senador Wiener que incluía medidas similares. Las leyes que regulan a los desarrolladores de IA han enfrentado resistencia significativa tanto de Silicon Valley como de la administración Trump, que argumentan que estas iniciativas podrían limitar la innovación de Estados Unidos en la competencia con China.
Inversores como Andreessen Horowitz y Y Combinator han liderado la oposición al SB 1047, y en los últimos meses, la administración Trump ha amenazado con bloquear a los estados de aprobar regulaciones sobre IA. Uno de los argumentos más comunes en contra de las leyes de seguridad de IA es que los estados deberían dejar el asunto en manos del gobierno federal. Matt Perault, jefe de políticas de IA en Andreessen Horowitz, y Jai Ramaswamy, director legal, publicaron un blog la semana pasada argumentando que muchas de las leyes estatales actuales sobre IA podrían violar la Cláusula de Comercio de la Constitución, que limita a los gobiernos estatales de aprobar leyes que afecten el comercio interestatal.
Sin embargo, Jack Clark, cofundador de Anthropic, argumenta que la industria tecnológica desarrollará sistemas de IA potentes en los próximos años y no puede esperar a que el gobierno federal actúe. “Siempre hemos dicho que preferiríamos un estándar federal”, comentó Clark. “Pero en ausencia de eso, esto crea un sólido modelo para la gobernanza de IA que no puede ser ignorado”.
Chris Lehane, director de asuntos globales de OpenAI, envió una carta al gobernador Newsom en agosto, argumentando que no debería aprobar ninguna regulación de IA que expulse a las startups de California, aunque no mencionó el SB 53 por su nombre. Miles Brundage, exjefe de investigación de políticas de OpenAI, comentó en un post que la carta de Lehane estaba “llena de información engañosa sobre el SB 53 y la política de IA en general”.
Es importante destacar que el SB 53 busca regular únicamente a las empresas de IA más grandes, especialmente aquellas que generan ingresos brutos superiores a 500 millones de dólares. A pesar de las críticas, expertos en políticas afirman que el SB 53 es un enfoque más moderado que proyectos de ley anteriores sobre seguridad de IA. Dean Ball, investigador senior en la Fundación para la Innovación Americana y exasesor de políticas de IA de la Casa Blanca, expresó en un blog en agosto que cree que el SB 53 tiene buenas posibilidades de convertirse en ley. Ball, quien criticó el SB 1047, mencionó que los redactores del SB 53 han “mostrado respeto por la realidad técnica” y una “medida de moderación legislativa”.
El senador Wiener indicó que el SB 53 fue influenciado por un panel de expertos convocado por el gobernador Newsom, co-dirigido por la investigadora de Stanford y cofundadora de World Labs, Fei-Fei Li, para asesorar a California sobre cómo regular la IA. La mayoría de los laboratorios de IA ya tienen alguna versión de la política de seguridad interna que exige el SB 53. OpenAI, Google DeepMind y Anthropic publican regularmente informes de seguridad para sus modelos. Sin embargo, estas empresas no están obligadas por ninguna ley a hacerlo y a veces no cumplen con sus compromisos de seguridad autoimpuestos. El SB 53 busca establecer estos requisitos como ley. A principios de septiembre, los legisladores de California modificaron el SB 53 para eliminar una sección que requería auditorías de terceros para los desarrolladores de modelos de IA. Las empresas tecnológicas han luchado contra este tipo de auditorías en otras batallas políticas de IA, argumentando que son demasiado gravosas.
