Uptime Industries quer impulsionar o uso localizado de IA com um “IA na caixa” chamado Lemony AI
A Uptime Industries aposta em infraestrutura de IA on-premise com um dispositivo portátil, do tamanho de um sanduíche, chamado Lemony AI. Segundo a empresa, o dispositivo pode executar um modelo de linguagem avançado (LLM), agentes de IA e fluxos de trabalho em um único nó. Cada Lemony consome apenas 65 watts de energia – equivalente ao carregamento de um laptop – e pode ser empilhado e conectado para formar clusters de IA maiores.
Sascha Buehrle, cofundador e CEO da Uptime, afirmou que cada nó suporta um LLM de até 75 bilhões de parâmetros, com capacidade de hospedar modelos open-source ou versões adaptadas de modelos fechados. Em um cluster com vários dispositivos Lemony, cada unidade pode rodar um modelo diferente.
A Uptime está lançando parcerias com a IBM e a JetBrains para oferecer aos seus clientes acesso facilitado a modelos de IA, incluindo os modelos fechados da IBM.
Como muitas startups de tecnologia, a ideia para o Lemony AI surgiu de um projeto paralelo. Os cofundadores Buehrle e Ivan Kuleshov testavam a possibilidade de distribuir modelos de linguagem em microcomputadores Raspberry Pi. Embora inicialmente o projeto não estivesse relacionado à IA generativa, quando a solução funcionou, eles passaram a explorar outras funcionalidades desses dispositivos.
Ao perceberem que executar modelos localmente podia ser a chave para acelerar a adoção de IA por organizações – especialmente aquelas que preferem não utilizar modelos baseados na nuvem – decidiram desenvolver seu próprio dispositivo. A aposta em um equipamento compacto, com forte ênfase na privacidade dos dados, foi vista como uma maneira de incentivar a rápida adesão à tecnologia pelas empresas.
“Precisamos construir algo pequeno que possa ser facilmente integrado nas equipes, sem exigir decisões em âmbito organizacional – trazendo soluções de IA generativa on-premise para as áreas de negócio”, explicou Buehrle. Ele destacou que clusters formados por dispositivos pequenos e potentes permitem que o sistema cresça conforme as necessidades dos clientes.
A empresa já observa uma forte demanda em setores altamente regulamentados, como finanças, saúde e advocacia.
“Tudo permanece dentro da sua caixa. Ou seja, seus documentos, arquivos, emails – os modelos são hospedados na caixa, os agentes operam localmente, e nada é transmitido para fora dela”, afirmou Buehrle.
Até o momento, a Uptime arrecadou US$ 2 milhões em uma rodada seed liderada pela True Ventures, com a participação de Alumni Ventures, JetBrains e alguns investidores-anjo. Os recursos serão investidos no aperfeiçoamento dos dispositivos.
A startup planeja, agora, fazer com que o software desenvolvido para seus microcomputadores de IA – o Lemony OS – seja compatível com hardwares de outras empresas, como o Nvidia DGX Spark. Além disso, a intenção é ampliar o software, que atualmente é voltado para um único usuário, para que possa atender equipes.
O Lemony AI é oferecido por US$ 499 ao mês, com acesso para até cinco usuários.