Perché lo stiamo costruendo
Perché il software più utile di questo decennio è arrivato con una condizione, e molte persone hanno deciso in silenzio di non poterla accettare.
La condizione è così semplice che è facile non notarla. Per avere aiuto con un documento, si invia il documento. Per una lista della spesa non è niente. Per il fascicolo di un cliente, una pratica, una cartella clinica o gli appunti di una fonte, è una decisione con conseguenze, e in alcune professioni è una decisione che qualcun altro ha già preso per lei, in un codice deontologico o in un mandato professionale.
Il risultato è una strana forma di esclusione. Le persone con il lavoro più ricco di documenti, quelle che trarrebbero più beneficio da un assistente che legge con attenzione e non si annoia mai, sono proprio quelle che meno possono usarlo. Ne fanno a meno, oppure lo usano per la metà sicura del loro lavoro e restano a disagio per il resto.
I modelli locali sono diventati, senza clamore, abbastanza buoni da cambiare le cose. Non abbastanza da superare i modelli cloud più grandi, e non è questo che affermiamo, ma abbastanza da leggere la sua cartella, rispondere alla domanda e mostrarle da dove viene la risposta, su hardware che già possiede. AI Stays Local è un tentativo di trasformare tutto questo in un software che un professionista qualsiasi possa installare, invece di un fine settimana di configurazione.
Chi c'è dietro
Uno sviluppatore indipendente che costruisce un prodotto commerciale. Non un team finanziato da venture capital, non un progetto open source che chiede contributi, non un esperimento secondario di qualcos'altro. Vale la pena dirlo chiaramente, perché fa parte di ciò che valuta quando decide se avvicinare i suoi documenti a un software nuovo: una piccola attività può avere più cura dei suoi dati di una grande, e può anche sparire. È bene soppesare entrambe le cose.
Ciò che possiamo offrire in cambio è l'abitudine di dire ciò che è vero. Ogni funzionalità presentata su questo sito indica se esiste, e dietro il sito c'è un registro che annota ogni affermazione pubblica, le prove che la sostengono e le formulazioni che ci siamo vietati. L'elenco delle funzionalità (in inglese) è breve di proposito, e la pagina sulla privacy (in inglese) dedica all'eccezione tanto spazio quanto alla regola.
A che punto è oggi
Il runtime e le risposte con citazioni dai documenti funzionano per i tester approvati. L'app desktop e l'immagine container sono previste e non ancora realizzate. I tempi pubblicati valgono solo per l'hardware indicato in ciascun benchmark.
La memoria locale e la scelta del modello in base all'hardware sono ciò verso cui stiamo lavorando. Tutto il resto dell'elenco delle funzionalità è previsto, che è un modo onesto per dire non realizzato.
Il prodotto è proprietario. È progettato per funzionare con più di un motore di inferenza, compresi motori open source usati secondo le rispettive licenze e citati nelle note dell'applicazione. Non presentiamo il lavoro altrui come nostro.
AI Stays Local è gestito da TGSS LLC, una società a responsabilità limitata del Wyoming.