Por que estamos construindo isto
Porque o software mais útil desta década chegou com uma condição, e muitas pessoas decidiram em silêncio que não podiam aceitá-la.
A condição é tão simples que é fácil não perceber. Para receber ajuda com um documento, você envia o documento. Para uma lista de compras, isso não é nada. Para o arquivo de um cliente, um processo, um prontuário médico ou as anotações de uma fonte, é uma decisão com consequências, e em algumas profissões é uma decisão que outra pessoa já tomou por você, em um código de ética ou em uma carta de contratação.
O resultado é uma forma estranha de exclusão. As pessoas com o trabalho mais carregado de documentos, que mais ganhariam com um assistente que lê com cuidado e nunca se cansa, são justamente as que menos podem usá-lo. Elas abrem mão, ou usam na metade segura do trabalho e ficam desconfortáveis com o resto.
Os modelos locais ficaram, sem alarde, bons o bastante para mudar isso. Não bons o bastante para superar os maiores modelos em nuvem, e não é isso que afirmamos, mas bons o bastante para ler a sua pasta, responder à pergunta e mostrar de onde veio a resposta, em hardware que você já tem. A AI Stays Local é uma tentativa de transformar isso em um software que um profissional comum consiga instalar, em vez de um fim de semana de configuração.
Quem está por trás
Um desenvolvedor independente construindo um produto comercial. Não uma equipe financiada por capital de risco, não um projeto de código aberto pedindo contribuições, e não um experimento paralelo de outra coisa. Vale dizer isso com clareza, porque faz parte do que você avalia ao decidir se vai aproximar seus documentos de um software novo: uma operação pequena pode ter mais cuidado com os seus dados do que uma grande, e também pode desaparecer. Vale pesar as duas coisas.
O que podemos oferecer em troca é o hábito de dizer o que é verdade. Cada recurso neste site indica se existe, e por trás do site há um registro que anota cada afirmação pública, a evidência que a sustenta e a redação que proibimos a nós mesmos. A lista de recursos (em inglês) é curta de propósito, e a página de privacidade (em inglês) dedica tanto espaço à exceção quanto à regra.
Onde está hoje
O runtime e as respostas com citações de documentos funcionam para testadores aprovados. O app para desktop e a imagem de contêiner estão planejados e ainda não foram construídos. Os tempos publicados valem apenas para o hardware indicado em cada benchmark.
A memória local e a escolha de modelos de acordo com o hardware são o que estamos construindo. Todo o resto da lista de recursos está planejado, que é um jeito honesto de dizer não construído.
O produto é proprietário. Ele foi projetado para funcionar com mais de um motor de inferência, incluindo motores de código aberto usados sob as próprias licenças e creditados nos avisos do aplicativo. Não apresentamos o trabalho de outras pessoas como nosso.
A AI Stays Local é operada pela TGSS LLC, uma sociedade de responsabilidade limitada de Wyoming.