Geoff Ralston, conocido en la comunidad de startups por su trabajo en Y Combinator, ha anunciado su regreso al mundo de las inversiones. Su nuevo fondo se llama Safe Artificial Intelligence Fund (SAIF), que refleja su enfoque en la seguridad de la inteligencia artificial. Ralston busca startups que mejoren la “seguridad, protección y despliegue responsable de la IA”, según su sitio web. Planea invertir $100,000 en cada startup, con un límite total de $10 millones. Este tipo de inversión, conocido como “safe”, permite invertir ahora y definir el precio más tarde, una estrategia popularizada por Y Combinator.
A diferencia de muchos capitalistas de riesgo que buscan invertir en startups de IA en general, Ralston se centra en aquellas que priorizan la seguridad de la IA. “La mayoría de los proyectos de IA hoy en día utilizan la tecnología para resolver problemas o crear eficiencias, pero la seguridad no es su principal preocupación”, explica Ralston. Él quiere financiar startups que se enfoquen en la seguridad de la IA, como aquellas que aclaran el proceso de toma de decisiones de una IA o que evalúan la seguridad de la IA.
Ralston también está interesado en productos que protejan la propiedad intelectual, aseguren el cumplimiento de normativas, combatan la desinformación y detecten ataques generados por IA. Además, busca herramientas de IA funcionales que incorporen la seguridad, como mejores herramientas de pronóstico y herramientas de negociación empresarial que no revelen secretos corporativos.
Sin embargo, Ralston no apoyaría startups que desarrollen armas autónomas. “Hay usos de la IA que serían inseguros, como crear armas biológicas o gestionar armas convencionales sin intervención humana”, aclara. Un área que le gustaría financiar son los “sistemas de seguridad de armas” que puedan detectar o prevenir ataques de armas de IA, una perspectiva diferente a la de muchos fundadores y capitalistas de riesgo en el sector de defensa.
El campo de la IA es muy competitivo para los inversores hoy en día, y Ralston espera que sus conexiones en Y Combinator le den una ventaja. Se retiró de YC en 2022, después de tres años como presidente y más de una década como asesor. Planea ofrecer mentoría a las startups, ayudándolas a aplicar a YC y a acceder a su amplia red de inversores. Ralston no ha revelado el tamaño de su fondo, cuántas startups planea respaldar ni quiénes son sus inversores.
