AI Stays Local

Perguntas e respostas

Inclusive aquelas em que a resposta é não.

O produto

O que é a AI Stays Local?
A AI Stays Local é IA privada para arquivos que você não pode enviar. Ela roda um modelo de pesos abertos em hardware que você controla: você concede acesso a pastas selecionadas, faz perguntas em linguagem comum e confere cada resposta no arquivo e na página citados, e quando a evidência não está lá, ela foi projetada para recusar. Ela inspeciona a sua máquina e recomenda um perfil de modelo adequado. No modo local, os documentos sobre os quais você pergunta permanecem no seu dispositivo.
Posso usar hoje?
Pelo beta privado, sim. O runtime e as respostas com citações de documentos funcionam para testadores aprovados. O app para desktop e a imagem de contêiner estão planejados e ainda não foram construídos. Os tempos publicados valem apenas para o hardware indicado em cada benchmark. O formulário de solicitação deste site é o caminho para pedir acesso.
Qual é a diferença em relação ao ChatGPT ou ao Claude?
Esses serviços rodam na infraestrutura do provedor: o seu prompt e qualquer arquivo anexado são enviados para eles. Aqui o modelo roda na sua máquina, então uma resposta local é produzida sem enviar o seu documento para lugar nenhum. A contrapartida é real: um modelo que cabe em um notebook é menor do que um que roda em um data center, e não vai se igualar a ele nas tarefas mais difíceis.

Privacidade

O que acontece com os meus documentos?
Você concede acesso a pastas específicas. O conteúdo delas é indexado no seu computador para que as perguntas possam ser respondidas com base nele. O índice fica na sua máquina, e remover uma pasta remove o índice dela. Nada é enviado durante o uso local normal.
Quão privado é, de verdade?
Mais privado do que um assistente hospedado, mas não de forma perfeita: nenhum software deveria dizer que é. O que podemos dizer é específico: no modo somente local, o aplicativo foi projetado para funcionar sem conexão de rede, então um documento não tem para onde ir. Se você ativar o Controlled Cloud e aprovar uma solicitação, o conteúdo dessa solicitação sai do seu computador, e o provedor para o qual você a direcionar o trata conforme os próprios termos. A página de privacidade explica cada modo e o que ele significa.
O aplicativo envia dados para vocês?
O produto está sendo construído para que a análise de uso e os relatórios de falhas sejam opcionais e não ativados por padrão, e para que o aplicativo funcione com o acesso de saída à rede bloqueado. Isso é um compromisso de design durante o desenvolvimento, não um resultado auditado, e vamos publicar o que o build distribuído faz de fato antes de o beta abrir.

Hardware

De que tipo de computador eu preciso?
A compatibilidade de hardware varia. A memória costuma ser o fator limitante: mais memória permite um modelo maior e mais capaz. Uma máquina compatível com 16 GB de memória é o ponto de entrada para um modelo pequeno, embora nenhuma máquina de 16 GB tenha sido medida ainda; com 32 GB ou mais, modelos mais capazes ficam ao alcance. A página de compatibilidade explica as contrapartidas sem prometer um resultado para uma máquina que não testamos.
Quais sistemas operacionais serão suportados?
Todas as medições publicadas vêm de uma única máquina profissional registrada: um NVIDIA DGX Spark (GB10) com 130.7 GB de memória unificada, rodando Linux em ARM64. A linha de comando roda em Linux e macOS para testadores selecionados. O aplicativo para desktop planejado tem como alvo Linux, macOS e Windows; nenhuma dessas versões para o consumidor existe ou foi medida ainda. O acesso pelo celular está planejado como uma conexão privada com a sua própria máquina, e não como uma segunda cópia dos seus dados.
Preciso de conexão com a internet?
Você precisa dela para obter o runtime e um modelo. Depois disso, o modo somente local foi projetado para funcionar sem conexão. O Controlled Cloud obviamente precisa de uma, e só roda quando você aprova uma solicitação específica.

O beta privado

Quem entra no beta privado?
Um primeiro grupo pequeno, escolhido pela variedade de hardware e por trabalho real com o qual possamos aprender: pessoas que lidam com documentos confidenciais no trabalho, e pessoas dispostas a nos dizer quando algo está errado. Vamos entrar em contato diretamente com quem se inscrever; não há posição em fila para consultar.
O que vocês fazem com a minha inscrição?
Usamos a inscrição para selecionar testadores e entender que hardware devemos suportar. Não pedimos documentos nem material confidencial, e o formulário nunca deve ser usado para enviar isso. O aviso de privacidade do site explica a retenção e como pedir a exclusão.

Custo e empresa

Quanto vai custar?
Haverá uma edição gratuita que roda um modelo local sem cobrança por mensagem, e edições pagas para busca em documentos, modelos maiores e uso profissional. Os valores não são definitivos, e a página de preços diz isso em todo lugar onde mostra um. O beta privado é gratuito para todas as pessoas selecionadas.
É código aberto?
O produto é comercial e proprietário. Ele foi construído para funcionar com mais de um motor de inferência, incluindo motores de código aberto usados sob as próprias licenças, e essas licenças e atribuições estão incluídas nos avisos do aplicativo. Não apresentamos o trabalho de outras pessoas como nosso.
Quem está por trás disso?
Um desenvolvedor independente construindo um produto comercial, não uma equipe financiada por capital de risco nem um projeto paralelo de outra coisa. A página Sobre é direta quanto ao tamanho da operação, porque isso faz parte do que você está avaliando.
Available through a controlled private beta. Larger model profiles are added as they complete hardware validation.