El gobernador de California, Gavin Newsom, ha firmado la ley SB 53, que es la primera en su tipo en el país y establece nuevos requisitos de transparencia para las grandes empresas de inteligencia artificial (IA). Esta ley, que fue aprobada por la legislatura estatal hace dos semanas, obliga a laboratorios de IA grandes, como OpenAI, Anthropic, Meta y Google DeepMind, a ser claros sobre sus protocolos de seguridad. También garantiza protección a los denunciantes que trabajan en estas empresas.
Además, la ley SB 53 crea un sistema para que las empresas de IA y el público puedan informar sobre posibles incidentes críticos de seguridad a la Oficina de Servicios de Emergencia de California. Las empresas también deben reportar incidentes relacionados con crímenes cometidos sin supervisión humana, como ciberataques, y comportamientos engañosos de modelos que no están regulados por la Ley de IA de la UE.
La ley ha recibido reacciones mixtas de la industria de IA. Muchas empresas tecnológicas argumentan que las políticas de IA a nivel estatal pueden crear un “mosaico de regulaciones” que obstaculizaría la innovación, aunque Anthropic apoyó la ley. Meta y OpenAI se opusieron, incluso OpenAI escribió una carta abierta al gobernador Newsom para desaconsejar la firma de la SB 53.
Esta nueva ley surge en un momento en que algunas de las élites tecnológicas de Silicon Valley han invertido cientos de millones en super PACs para respaldar a candidatos que apoyan un enfoque más laxo hacia la regulación de IA. Los líderes de OpenAI y Meta han lanzado recientemente super PACs pro-IA que buscan apoyar a candidatos y leyes favorables a la IA. Sin embargo, otros estados podrían mirar a California como modelo mientras intentan mitigar los posibles daños causados por el avance descontrolado de esta poderosa tecnología emergente. En Nueva York, se aprobó una ley similar que espera la firma o veto de la gobernadora Kathy Hochul.
“California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades mientras aseguramos que la creciente industria de IA continúe prosperando”, dijo Newsom en un comunicado. “Esta legislación encuentra ese equilibrio. La IA es la nueva frontera de la innovación, y California no solo está aquí para ello, sino que se mantiene firme como líder nacional al promulgar la primera legislación de seguridad de IA en el país que genera confianza pública mientras esta tecnología emergente evoluciona rápidamente”.
El gobernador también está considerando otra ley, la SB 243, que fue aprobada por la Asamblea Estatal y el Senado con apoyo bipartidista este mes. Esta ley regularía los chatbots de compañía de IA, exigiendo a los operadores implementar protocolos de seguridad y responsabilizarlos legalmente si sus bots no cumplen con esos estándares. La SB 53 es el segundo intento del senador Scott Wiener de crear una ley de seguridad de IA, después de que Newsom vetara su ley anterior, la SB 1047, el año pasado debido a una fuerte oposición de las empresas de IA. Con esta nueva ley, Wiener se comunicó con las principales empresas de IA para ayudarles a entender los cambios realizados.
