Uptime Industries está apostando por la infraestructura de inteligencia artificial local con un dispositivo portátil llamado Lemony AI, que es del tamaño de un sándwich. Este dispositivo puede ejecutar un modelo de lenguaje grande (LLM), agentes de IA y flujos de trabajo de IA, todo en un solo nodo. Cada Lemony solo necesita 65 vatios de energía para funcionar, lo que equivale a cargar una laptop, y se pueden apilar y conectar para formar clústeres de IA más grandes.
Sascha Buehrle, cofundador y CEO de Uptime, comentó que cada nodo puede soportar un LLM de hasta 75 mil millones de parámetros y puede alojar modelos de código abierto o versiones adaptadas de modelos cerrados. En un clúster de nodos Lemony, cada dispositivo puede ejecutar un modelo diferente. Uptime está lanzando su producto en asociación con IBM y JetBrains para facilitar a sus clientes el acceso a modelos de IA, incluidos los modelos cerrados de IBM.
La idea de Lemony AI surgió de un proyecto paralelo de los cofundadores, Buehrle e Ivan Kuleshov, quienes intentaban distribuir modelos de lenguaje en microcomputadoras Raspberry Pi. Aunque inicialmente no estaba relacionado con la IA generativa, al ver que funcionaba, comenzaron a explorar qué más podían manejar estos dispositivos. Al darse cuenta de que ejecutar modelos en dispositivos locales podría ser clave para que más organizaciones adoptaran la IA, especialmente empresas que no quieren usar modelos basados en la nube, decidieron crear su propio dispositivo. Buehrle mencionó que construir algo pequeño, con un enfoque en la privacidad de los datos, podría hacer que las empresas adoptaran la IA más rápidamente.
La compañía ha notado una fuerte demanda de negocios en industrias altamente reguladas como finanzas, salud y derecho. “Todo se queda en tu caja”, dijo Buehrle. “Tus documentos, tus archivos, tus correos electrónicos: los modelos se alojan en la caja, los agentes funcionan localmente en la caja y nada sale de la caja”. Hasta ahora, Uptime ha recaudado 2 millones de dólares en una ronda de financiación inicial liderada por True Ventures, con la participación de Alumni Ventures, JetBrains y algunos inversores ángeles. La empresa utilizará estos fondos para seguir desarrollando sus dispositivos.
El plan actual es hacer que el software que han desarrollado para sus microcomputadoras de IA, Lemony OS, funcione en el hardware de otras compañías, como el Nvidia DGX Spark. También quieren expandir el software de su enfoque actual, que es para un solo usuario, a uno que pueda ser utilizado por equipos. Lemony AI tiene un costo de 499 dólares al mes y puede ser utilizado por hasta cinco usuarios.
