El CEO de Anthropic, Dario Amodei, estima que hay un 25% de probabilidad de que la inteligencia artificial (IA) cause una catástrofe. Sin embargo, él sigue creyendo que invertir en IA vale la pena, ya que los beneficios superan los riesgos. Sus comentarios se alinean con las crecientes conversaciones públicas y políticas sobre los riesgos y la regulación de la IA.

Amodei mencionó que, aunque hay un 25% de posibilidades de que las cosas salgan mal, también hay un 75% de probabilidades de que todo vaya muy bien. Cuando habla de “cosas realmente malas”, no se refiere a errores menores, como la autocorrección de un mensaje en el teléfono, sino a situaciones que podrían amenazar sistemas sociales y provocar resultados catastróficos.

A pesar de que muchos en la industria de la IA tienden a ser optimistas o a generar miedo, la postura de Amodei es notable. Como CEO de la empresa detrás de Claude, no es un observador pasivo; está moldeando el futuro de esta tecnología. Su equipo está desarrollando los mismos sistemas que él evalúa en términos de potencial y riesgos.

Amodei ha advertido anteriormente que la IA podría eliminar la mitad de los trabajos de oficina de nivel inicial y ha expresado su preocupación por la exportación de chips avanzados a China. Su enfoque es útil porque reconoce el riesgo y cuantifica la incertidumbre, pero también deja espacio para la acción.

Por otro lado, su afirmación de que hay un 75% de posibilidades de que las cosas salgan bien no es optimismo sin fundamento. Implica la creencia de que la IA podría ofrecer enormes beneficios, como mejorar la medicina y hacer la manufactura más eficiente. Sin embargo, el riesgo del 25% exige que estos beneficios se construyan con cuidado, considerando medidas de seguridad y regulación. La pregunta es: ¿qué haremos para asegurarnos de que el futuro sea más brillante que problemático?