Domande e risposte

AI Stays Local è un'IA privata per i file che non può caricare. Esegue un modello a pesi aperti su hardware che lei controlla: concede l'accesso a cartelle selezionate, fa domande in linguaggio comune e verifica ogni risposta sul file e sulla pagina citati, e quando le prove non ci sono è progettato per rifiutare. Esamina il suo computer e raccomanda un profilo di modello adatto. In modalità locale, i documenti su cui fa domande restano sul suo dispositivo.

Tramite la beta privata, sì. Il runtime e le risposte con citazioni dai documenti funzionano per i tester approvati. L'app desktop e l'immagine container sono previste e non ancora realizzate. I tempi pubblicati valgono solo per l'hardware indicato in ciascun benchmark. Il modulo di richiesta di questo sito è il modo per chiedere l'accesso.

Quei servizi girano sull'infrastruttura del fornitore: la sua richiesta e qualsiasi file allegato vengono inviati a loro. Qui il modello gira sul suo computer, quindi una risposta locale viene prodotta senza inviare il suo documento da nessuna parte. Il compromesso è reale: un modello che sta su un portatile è più piccolo di uno che gira in un data center, e non lo eguaglierà nei compiti più difficili.

Lei concede l'accesso a cartelle specifiche. Il loro contenuto viene indicizzato sul suo computer per poter rispondere alle domande che li riguardano. L'indice resta sulla sua macchina, e rimuovere una cartella ne rimuove l'indice. Nell'uso locale normale non viene caricato nulla.

Più privato di un assistente ospitato, ma non in modo perfetto: nessun software dovrebbe dirle il contrario. Ciò che possiamo dire è preciso: in modalità solo locale, l'applicazione è progettata per funzionare senza connessione di rete, quindi un documento non ha dove andare. Se attiva Controlled Cloud e approva una richiesta, il contenuto di quella richiesta esce davvero dal suo computer, e il fornitore a cui lo indirizza lo tratta secondo le proprie condizioni. La pagina sulla privacy illustra ogni modalità e che cosa comporta.

Il prodotto viene costruito in modo che analisi d'uso e segnalazioni di arresto anomalo siano facoltative e non attive per impostazione predefinita, e in modo che l'applicazione funzioni con l'accesso di rete in uscita bloccato. È un impegno di progettazione durante lo sviluppo, non un risultato verificato da terzi, e prima dell'apertura della beta pubblicheremo che cosa fa realmente la build distribuita.

La compatibilità dell'hardware varia. Di solito il fattore limitante è la memoria: più memoria consente un modello più grande e più capace. Un computer compatibile con 16 GB di memoria è il punto di partenza per un modello piccolo, anche se nessun computer da 16 GB è ancora stato misurato; con 32 GB o più si accede a modelli più capaci. La pagina sulla compatibilità spiega i compromessi senza promettere un risultato per un computer che non abbiamo provato.

Tutte le misure pubblicate provengono da un'unica macchina professionale registrata: una NVIDIA DGX Spark (GB10) con 130.7 GB di memoria unificata, con Linux su ARM64. La riga di comando funziona su Linux e macOS per tester selezionati. L'applicazione desktop prevista punta a Linux, macOS e Windows; nessuna di queste versioni per l'utente finale esiste o è stata ancora misurata. L'accesso da dispositivi mobili è previsto come connessione privata alla sua macchina, non come seconda copia dei suoi dati.

Serve per ottenere il runtime e un modello. Dopo di che, la modalità solo locale è progettata per funzionare senza connessione. Controlled Cloud ovviamente ne richiede una, e viene eseguito solo quando lei approva una richiesta specifica.

Un primo gruppo ristretto, scelto per la varietà dell'hardware e per un lavoro reale da cui possiamo imparare: persone che trattano documenti riservati per lavoro, e persone disposte a dirci quando qualcosa non va. Contatteremo direttamente i candidati; non c'è una posizione in coda da controllare.

La usiamo per selezionare i tester e per capire quale hardware supportare. Non chiediamo documenti né materiale riservato, e il modulo non deve mai essere usato per inviarne. L'informativa sulla privacy del sito spiega i tempi di conservazione e come chiedere la cancellazione.

Ci sarà un'edizione gratuita che esegue un modello locale senza costi per messaggio, e edizioni a pagamento per la ricerca nei documenti, modelli più grandi e l'uso professionale. Gli importi non sono definitivi, e la pagina dei prezzi lo dice ovunque ne mostri uno. La beta privata è gratuita per tutte le persone selezionate.

Il prodotto è commerciale e proprietario. È costruito per funzionare con più di un motore di inferenza, compresi motori open source usati secondo le rispettive licenze, e queste licenze e attribuzioni sono incluse nelle note dell'applicazione. Non presentiamo il lavoro altrui come nostro.

Uno sviluppatore indipendente che costruisce un prodotto commerciale, non un team finanziato da venture capital né un progetto secondario di qualcos'altro. La pagina Chi siamo è chiara sulle dimensioni dell'attività, perché fa parte di ciò che lei sta valutando.