Recientemente, el Senado del estado de California aprobó un nuevo proyecto de ley sobre la seguridad de la inteligencia artificial, conocido como SB 53. Este proyecto ahora se enviará al gobernador Gavin Newsom, quien deberá decidir si lo firma o lo veta. Esto puede sonar familiar porque el año pasado, Newsom vetó otro proyecto de ley sobre seguridad de IA, también escrito por el senador estatal Scott Wiener. Sin embargo, SB 53 es más específico que el anterior SB 1047, ya que se enfoca en las grandes empresas de IA que generan más de 500 millones de dólares al año.
Tuve la oportunidad de hablar sobre SB 53 con mis colegas Max Zeff y Kirsten Korosec en el último episodio del podcast de TechCrunch, Equity. Max opina que este nuevo proyecto de ley tiene más posibilidades de convertirse en ley, en parte por su enfoque en las grandes empresas y porque ha sido respaldado por la compañía de IA Anthropic. A continuación, un resumen de nuestra conversación sobre la seguridad de la IA y la legislación a nivel estatal.
Max: ¿Por qué debería importarte la legislación sobre la seguridad de la IA que se está aprobando en California? Estamos entrando en una era donde las empresas de IA se están convirtiendo en las más poderosas del mundo, y esta podría ser una de las pocas formas de controlar su poder. Aunque es más específica que el SB 1047, creo que SB 53 aún establece regulaciones significativas para los laboratorios de IA. Obliga a estas empresas a publicar informes de seguridad sobre sus modelos y, si ocurre un incidente, deben informarlo al gobierno. Además, ofrece a los empleados de estos laboratorios un canal para reportar preocupaciones al gobierno sin temor a represalias, a pesar de que muchos han firmado acuerdos de confidencialidad. Para mí, esto representa un control significativo sobre el poder de las empresas tecnológicas, algo que no hemos tenido en las últimas décadas.
Kirsten: En cuanto a por qué es importante a nivel estatal, hay que considerar que es California. Prácticamente todas las grandes empresas de IA están aquí o tienen una gran presencia en este estado. No quiero que me envíen correos de otros estados, pero es relevante que sea California, ya que es un centro de actividad en IA. Sin embargo, Max, parece que hay muchas excepciones en este proyecto. Es más específico, pero ¿es más complicado que el anterior?
Max: En algunos aspectos, sí. La principal excepción de este proyecto es que intenta no aplicarse a las pequeñas startups. En el esfuerzo legislativo anterior de Scott Wiener, muchas personas argumentaron que podría perjudicar el ecosistema de startups, que es una parte en auge de la economía de California. Este proyecto se aplica específicamente a los desarrolladores de IA que generan más de 500 millones de dólares con sus modelos de IA, apuntando a empresas como OpenAI y Google DeepMind, y no a las startups comunes.
Anthony: Según entiendo, si eres una startup más pequeña, debes compartir algo de información sobre seguridad, pero no tanto como las grandes empresas. También es importante hablar sobre el panorama más amplio de la regulación de la IA. Un cambio importante entre el año pasado y este es que ahora tenemos un nuevo presidente. La administración federal ha adoptado una postura de no regulación, permitiendo que las empresas hagan lo que quieran, incluso han incluido en proyectos de ley de financiamiento que los estados no pueden tener su propia regulación de IA. Hasta ahora, ninguna de estas propuestas ha pasado, pero podrían intentar hacerlo en el futuro. Esto podría ser otro frente en el que la administración de Trump y los estados demócratas están en conflicto.
Equity es el podcast principal de TechCrunch, producido por Theresa Loconsolo, y se publica todos los miércoles y viernes. Puedes suscribirte en Apple Podcasts, Overcast, Spotify y otras plataformas. También puedes seguir a Equity en X y Threads, en @EquityPod.
