El autor de la controvertida ley de seguridad de inteligencia artificial SB 1047 de California ha regresado con un nuevo proyecto de ley que podría cambiar las cosas en Silicon Valley. El senador estatal Scott Wiener presentó el viernes una nueva propuesta, la SB 53, que busca proteger a los empleados de los principales laboratorios de IA. Esta ley permitiría a los trabajadores expresar sus preocupaciones si creen que los sistemas de IA de su empresa podrían representar un “riesgo crítico” para la sociedad.
La SB 53 también propone crear un clúster de computación en la nube pública llamado CalCompute, que proporcionaría los recursos necesarios a investigadores y startups para desarrollar IA que beneficie al público. La ley anterior de Wiener, la SB 1047, fue muy polémica y buscaba prevenir eventos catastróficos causados por modelos de IA muy grandes, como pérdidas de vidas o ciberataques que podrían costar más de 500 millones de dólares en daños. Sin embargo, el gobernador Gavin Newsom vetó esta ley en septiembre.
El debate sobre la SB 1047 se tornó hostil, con algunos líderes de Silicon Valley argumentando que esta ley perjudicaría la competitividad de Estados Unidos en la carrera global de IA. También se alegó que la ley se basaba en temores poco realistas sobre escenarios apocalípticos provocados por la IA. Por su parte, Wiener acusó a algunos capitalistas de riesgo de llevar a cabo una “campaña de propaganda” en contra de su propuesta.
La SB 53 toma las partes menos controvertidas de la SB 1047, como las protecciones para denunciantes y la creación del clúster CalCompute, y las presenta en un nuevo proyecto de ley. Esta nueva propuesta protege específicamente a los denunciantes que crean que sus empleadores están desarrollando sistemas de IA que representan un “riesgo crítico”. Se define riesgo crítico como un riesgo previsible que podría resultar en la muerte o lesiones graves a más de 100 personas, o más de mil millones de dólares en daños.
La SB 53 también limita a los desarrolladores de modelos de IA de frontera, como OpenAI y Anthropic, para que no tomen represalias contra empleados que informen sobre preocupaciones a la Fiscalía General de California o a otras autoridades. Además, estos desarrolladores tendrían que informar a los denunciantes sobre ciertos procesos internos que ellos consideren preocupantes.
En cuanto a CalCompute, la SB 53 establecería un grupo que se encargaría de construir este clúster de computación en la nube pública, compuesto por representantes de la Universidad de California y otros investigadores públicos y privados. Este grupo haría recomendaciones sobre cómo construir CalCompute, su tamaño y quiénes deberían tener acceso.
Es importante destacar que la SB 53 aún está en las primeras etapas del proceso legislativo y debe ser revisada y aprobada por los cuerpos legislativos de California antes de llegar al escritorio del gobernador Newsom. Los legisladores estatales seguramente estarán atentos a la reacción de Silicon Valley ante esta nueva propuesta. Sin embargo, el año 2025 podría ser más difícil para aprobar leyes de seguridad en IA en comparación con 2024, ya que California aprobó 18 leyes relacionadas con IA el año pasado, pero ahora parece que el movimiento por la seguridad de la IA ha perdido fuerza. El vicepresidente J.D. Vance indicó en la Cumbre de Acción de IA de París que Estados Unidos no está interesado en la seguridad de la IA, sino que prioriza la innovación en este campo. Aunque el clúster CalCompute podría verse como un avance en el progreso de la IA, no está claro cómo se desarrollarán los esfuerzos legislativos en torno al riesgo existencial de la IA en 2025.
