Yoshua Bengio, ganador del Premio Turing, está lanzando un laboratorio sin fines de lucro llamado LawZero, dedicado a la seguridad en inteligencia artificial. En una entrevista con el Financial Times, Bengio anunció que LawZero ha recaudado 30 millones de dólares en donaciones de personas influyentes como Jaan Tallinn, ingeniero fundador de Skype, Eric Schmidt, exjefe de Google, Open Philanthropy y el Future of Life Institute, entre otros.
El nombre LawZero hace referencia a un concepto de ciencia ficción: la Zeroth Law of Robotics, que prioriza la protección de la humanidad por encima de todo. Bengio, reconocido como uno de los pioneros del auge de la inteligencia artificial moderna, es un firme defensor del movimiento por la seguridad en IA. Ha mostrado su apoyo público al proyecto de ley SB-1047 de California, que busca evitar que los sistemas de IA causen escenarios catastróficos.
En la misma entrevista, Bengio expresó su desconfianza hacia OpenAI y Google, señalando que no cree que estas empresas prioricen la seguridad mientras compiten por desarrollar sistemas de IA más inteligentes.
