El senador de California, Scott Wiener, no es nuevo en la lucha por la seguridad de la inteligencia artificial (IA). En 2024, enfrentó una fuerte oposición en Silicon Valley por su proyecto de ley sobre la seguridad de la IA, el SB 1047, que habría hecho a las empresas tecnológicas responsables de los posibles daños causados por sus sistemas de IA. Los líderes tecnológicos advirtieron que esto podría frenar el crecimiento de la IA en Estados Unidos. Finalmente, el gobernador Gavin Newsom vetó el proyecto, lo que llevó a una celebración en una casa de hackers de IA, donde un asistente exclamó: “Gracias a Dios, la IA sigue siendo legal”.
Ahora, Wiener ha presentado un nuevo proyecto de ley de seguridad de la IA, el SB 53, que está esperando la firma o veto del gobernador Newsom en las próximas semanas. Este nuevo proyecto parece ser más popular, ya que Silicon Valley no se opone a él. Anthropic, una empresa de IA, apoyó públicamente el SB 53. Un portavoz de Meta comentó que la empresa respalda la regulación de la IA que equilibre la seguridad con la innovación, y considera que el SB 53 es un paso en esa dirección, aunque hay áreas que se pueden mejorar.
Dean Ball, exasesor de políticas de IA de la Casa Blanca, también considera que el SB 53 es una “victoria para las voces razonables” y cree que hay una buena posibilidad de que el gobernador lo firme. Si se aprueba, el SB 53 impondría algunos de los primeros requisitos de informes de seguridad en el país para gigantes de la IA como OpenAI, Anthropic, xAI y Google, que actualmente no tienen la obligación de revelar cómo prueban sus sistemas de IA. Aunque muchos laboratorios de IA publican informes de seguridad de manera voluntaria, no siempre son consistentes.
El proyecto de ley requiere que los principales laboratorios de IA, específicamente aquellos que generan más de 500 millones de dólares en ingresos, publiquen informes de seguridad sobre sus modelos de IA más avanzados. Al igual que el SB 1047, el SB 53 se centra en los riesgos más graves de la IA, como la posibilidad de contribuir a muertes humanas, ciberataques y armas químicas. Además, el SB 53 crea canales protegidos para que los empleados de los laboratorios de IA informen sobre preocupaciones de seguridad a los funcionarios gubernamentales y establece un clúster de computación en la nube operado por el estado, llamado CalCompute, para proporcionar recursos de investigación en IA más allá de las grandes empresas tecnológicas.
Una razón por la que el SB 53 puede ser más popular que el SB 1047 es que es menos severo. Mientras que el SB 1047 habría hecho a las empresas de IA responsables de cualquier daño causado por sus modelos, el SB 53 se centra más en la autorregulación y la transparencia. Además, se aplica específicamente a las empresas tecnológicas más grandes, en lugar de a las startups. Sin embargo, muchos en la industria tecnológica aún creen que la regulación de la IA debería ser competencia del gobierno federal. OpenAI, por ejemplo, argumentó en una carta al gobernador Newsom que los laboratorios de IA solo deberían cumplir con los estándares federales.
El senador Wiener responde a estas preocupaciones afirmando que no confía en que el gobierno federal apruebe una regulación significativa sobre la seguridad de la IA, por lo que los estados deben actuar. También cree que la administración Trump ha sido influenciada por la industria tecnológica y que los esfuerzos recientes a nivel federal para bloquear todas las leyes estatales sobre IA son una forma de Trump “recompensar a sus financiadores”.
Wiener considera crucial que California lidere la nación en seguridad de la IA, sin frenar la innovación. En una reciente entrevista, Wiener reflexionó sobre su experiencia en la regulación de la seguridad de la IA y la importancia de establecer leyes que responsabilicen a Silicon Valley. Afirmó que, aunque no está en contra de la tecnología, es necesario tener regulaciones sensatas que protejan el interés público.
El SB 53 se centra en los daños más graves que la IA podría causar, como muertes, ciberataques masivos y la creación de armas biológicas. Wiener enfatiza que, aunque hay muchos riesgos asociados con la IA, este proyecto de ley aborda un tipo específico de riesgo catastrófico. Además, reconoce que hay personas en la industria que se preocupan por mitigar estos riesgos, pero también es necesario hacer más difícil que actores malintencionados causen daños severos.
En resumen, el SB 53 busca promover la transparencia y la autorregulación en la IA, mientras se enfoca en los riesgos más peligrosos, y espera que el gobernador Newsom lo firme pronto.
