Según un reciente informe de McKinsey, la mayoría de las organizaciones no están completamente preparadas para utilizar la inteligencia artificial generativa de manera segura y responsable. Una de las principales preocupaciones es la “explicabilidad”, que se refiere a entender cómo y por qué la IA toma ciertas decisiones. Aunque el 40% de los encuestados considera que esto es un riesgo significativo, solo el 17% está tomando medidas para abordarlo.
Datumo, una empresa con sede en Seúl que comenzó como un negocio de etiquetado de datos para IA, ahora busca ayudar a las empresas a construir una IA más segura. Ofrecen herramientas y datos que permiten probar, monitorear y mejorar modelos de IA sin necesidad de tener conocimientos técnicos. Recientemente, la startup recaudó 15.5 millones de dólares, sumando un total de aproximadamente 28 millones de dólares, con inversiones de empresas como Salesforce Ventures y KB Investment.
David Kim, CEO de Datumo y exinvestigador de IA en la Agencia de Desarrollo de Defensa de Corea, se sintió frustrado por lo tedioso que era el etiquetado de datos. Por eso, ideó una aplicación basada en recompensas que permite a cualquiera etiquetar datos en su tiempo libre y ganar dinero. La idea fue validada en una competencia de startups en KAIST (Instituto Avanzado de Ciencia y Tecnología de Corea). Kim cofundó Datumo, anteriormente conocida como SelectStar, junto a cinco exalumnos de KAIST en 2018. Antes de que la aplicación estuviera completamente desarrollada, Datumo ya había asegurado decenas de miles de dólares en ventas anticipadas durante la fase de descubrimiento de clientes, principalmente de negocios y startups dirigidos por exalumnos de KAIST. En su primer año, la startup superó el millón de dólares en ingresos y logró varios contratos clave.
Hoy en día, Datumo cuenta con importantes empresas coreanas como Samsung, LG Electronics y Hyundai entre sus clientes. Sin embargo, hace algunos años, los clientes comenzaron a pedirle a la empresa que fuera más allá del simple etiquetado de datos. La startup, que tiene siete años, ahora cuenta con más de 300 clientes en Corea del Sur y generó alrededor de 6 millones de dólares en ingresos en 2024. “Querían que evaluáramos los resultados de sus modelos de IA o que los comparáramos con otros resultados”, comentó Michael Hwang, cofundador de Datumo. “Ahí fue cuando nos dimos cuenta de que ya estábamos evaluando modelos de IA, sin siquiera saberlo”.
Datumo decidió enfocarse en esta área y lanzó el primer conjunto de datos de referencia en Corea centrado en la confianza y seguridad de la IA. “Comenzamos en la anotación de datos, luego nos expandimos a conjuntos de datos de preentrenamiento y evaluación a medida que el ecosistema de LLM maduraba”, explicó Kim.
La reciente inversión de 14.3 mil millones de dólares de Meta en la empresa de etiquetado de datos Scale AI resalta la importancia de este mercado. Poco después de este acuerdo, OpenAI, competidor de Meta, dejó de utilizar los servicios de Scale AI. Este movimiento indica que la competencia por los datos de entrenamiento de IA se está intensificando. Datumo comparte algunas similitudes con empresas como Scale AI en la provisión de conjuntos de datos de preentrenamiento, y con Galileo y Arize AI en evaluación y monitoreo de IA. Sin embargo, se diferencia por sus conjuntos de datos licenciados, especialmente aquellos extraídos de libros publicados, que ofrecen un razonamiento humano estructurado, aunque son difíciles de limpiar.
A diferencia de sus competidores, Datumo también ofrece una plataforma de evaluación completa llamada Datumo Eval, que genera automáticamente datos de prueba y evaluaciones para verificar respuestas inseguras, sesgadas o incorrectas sin necesidad de programación manual. Este producto está diseñado para no desarrolladores, como aquellos en equipos de políticas, confianza y seguridad, y cumplimiento.
En cuanto a la atracción de inversores como Salesforce Ventures, Kim explicó que la startup organizó un chat con Andrew Ng, fundador de DeepLearning.AI, en un evento en Corea del Sur. Después del evento, Kim compartió la sesión en LinkedIn, lo que llamó la atención de Salesforce Ventures. Tras varias reuniones y videollamadas, los inversores extendieron un compromiso. Todo el proceso de financiamiento tomó alrededor de ocho meses. Los nuevos fondos se utilizarán para acelerar los esfuerzos de investigación y desarrollo, especialmente en el desarrollo de herramientas de evaluación automatizadas para la IA empresarial, y para escalar operaciones en mercados globales en Corea del Sur, Japón y EE. UU. La startup, que cuenta con 150 empleados en Seúl, también estableció una presencia en Silicon Valley en marzo.
