Campbell Brown, exestrella del periodismo televisivo y primera responsable de noticias en Facebook, ha fundado Forum AI, una startup que quiere poner a prueba la precisión y el sesgo de los grandes modelos de inteligencia artificial en temas de alto riesgo: geopolítica, salud mental, finanzas, contratación y otros ámbitos donde las respuestas no son blanco o negro.
Con sede en Nueva York y apenas año y medio de vida, Forum AI diseña evaluaciones específicas para estos temas con ayuda de expertos de primer nivel. En el área de geopolítica, Brown ha reclutado a figuras como Niall Ferguson, Fareed Zakaria, el exsecretario de Estado Tony Blinken, el exlíder de la Cámara de Representantes Kevin McCarthy y Anne Neuberger, exresponsable de ciberseguridad en la administración Obama. Su objetivo es entrenar “jueces de IA” que, al evaluar las respuestas de los modelos, alcancen alrededor de un 90% de coincidencia con el criterio de estos especialistas.
Brown asegura que la idea nació cuando, trabajando aún en Meta, vio el lanzamiento público de ChatGPT y entendió que estos sistemas se estaban convirtiendo en el nuevo filtro de acceso a la información… sin que la precisión fuera una prioridad. Afirma que las grandes compañías de modelos fundacionales se centran casi exclusivamente en código y matemáticas, y descuidan la calidad de la información y el contexto. Sus primeras pruebas con modelos líderes arrojaron fallos preocupantes: desde el uso de fuentes cuestionables, como páginas del Partido Comunista chino para temas no relacionados con China, hasta sesgos políticos marcadamente inclinados hacia la izquierda y errores más sutiles como falta de contexto y argumentos caricaturizados.
Con la experiencia de haber vivido desde dentro los incentivos de Facebook —donde vio cómo optimizar solo por interacción perjudicó la calidad informativa—, Brown quiere evitar que la historia se repita en la IA generativa. Cree que, pese a la retórica grandilocuente de la industria (“cambiaremos el mundo”, “curaremos el cáncer”), muchos usuarios siguen recibiendo respuestas imprecisas y poco fiables, lo que alimenta una desconfianza generalizada.
Forum AI apuesta a que las empresas serán el motor de cambio: bancos, aseguradoras y empleadores que usen IA para crédito, préstamos o contratación necesitan minimizar riesgos legales y exigirán sistemas más precisos y auditados. Sin embargo, Brown critica que la mayoría de las regulaciones y auditorías actuales son meros ejercicios de “marcar casillas”, sin análisis profundo. Pone como ejemplo la primera ley de Nueva York sobre sesgo en sistemas de contratación, donde más de la mitad de las auditorías incumplieron requisitos sin que las autoridades lo detectaran. Según Brown, evaluar de verdad un modelo exige especialistas en cada dominio y tiempo para explorar también los casos límite, algo que los generalistas no pueden suplir.
Con 3 millones de dólares de financiación inicial, liderados por el fondo Lerer Hippeau, Forum AI se posiciona como un intermediario entre las grandes promesas tecnológicas y las expectativas reales de ciudadanos y empresas. Brown sostiene que la confianza en la IA solo mejorará si los modelos empiezan a priorizar “lo real, lo honesto y lo verdadero” por encima de la mera conveniencia o el espectáculo tecnológico.
