Questions et réponses

AI Stays Local est une IA privée pour les fichiers que vous ne pouvez pas envoyer. Il fait tourner un modèle à poids ouverts sur du matériel que vous contrôlez : vous autorisez des dossiers choisis, posez vos questions en langage courant et vérifiez chaque réponse dans le fichier et la page cités, et lorsque les preuves manquent, il est conçu pour refuser. Il inspecte votre machine et recommande un profil de modèle adapté. En mode local, les documents sur lesquels vous posez des questions restent sur votre appareil.

Via la bêta privée, oui. Le moteur d'exécution et les réponses citées sur documents fonctionnent pour les testeurs approuvés. L'application de bureau et l'image de conteneur sont prévues et pas encore construites. Les temps publiés ne valent que pour le matériel indiqué dans chaque benchmark. Le formulaire de demande de ce site est le moyen de demander l'accès.

Ces services tournent sur l'infrastructure du fournisseur : votre requête et tout fichier joint leur sont envoyés. Ici, le modèle tourne sur votre machine, donc une réponse locale est produite sans envoyer votre document nulle part. Le compromis est réel : un modèle qui tient sur un portable est plus petit qu'un modèle qui tourne dans un centre de données, et il ne l'égalera pas sur les tâches les plus difficiles.

Vous autorisez des dossiers précis. Leur contenu est indexé sur votre ordinateur pour que l'on puisse répondre à des questions à leur sujet. L'index reste sur votre machine, et retirer un dossier supprime son index. Rien n'est envoyé lors d'un usage local normal.

Plus privé qu'un assistant hébergé, sans l'être parfaitement : aucun logiciel ne devrait vous affirmer le contraire. Ce que nous pouvons dire est précis : en mode local uniquement, l'application est conçue pour fonctionner sans connexion réseau, si bien qu'un document n'a nulle part où aller. Si vous activez Controlled Cloud et approuvez une requête, le contenu de cette requête quitte bien votre ordinateur, et le fournisseur vers lequel vous l'acheminez le traite selon ses propres conditions. La page confidentialité présente chaque mode et ce qu'il implique.

Le produit est construit pour que l'analyse d'usage et les rapports de plantage soient facultatifs et désactivés par défaut, et pour que l'application fonctionne avec l'accès réseau sortant bloqué. C'est un engagement de conception pendant le développement, pas un résultat audité, et nous publierons ce que fait réellement la version distribuée avant l'ouverture de la bêta.

La compatibilité matérielle varie. La mémoire est généralement le facteur limitant : plus de mémoire permet un modèle plus grand et plus capable. Une machine compatible avec 16 GB de mémoire est le point d'entrée pour un petit modèle, même si aucune machine de 16 GB n'a encore été mesurée ; 32 GB ou plus ouvrent l'accès à des modèles plus capables. La page compatibilité explique les compromis sans promettre de résultat pour une machine que nous n'avons pas testée.

Toutes les mesures publiées proviennent d'une seule machine professionnelle enregistrée : une NVIDIA DGX Spark (GB10) dotée de 130.7 GB de mémoire unifiée, sous Linux ARM64. La ligne de commande fonctionne sous Linux et macOS pour des testeurs sélectionnés. L'application de bureau prévue vise Linux, macOS et Windows ; aucune de ces versions grand public n'existe ni n'a encore été mesurée. L'accès mobile est prévu sous la forme d'une connexion privée à votre propre machine, plutôt que d'une seconde copie de vos données.

Vous en avez besoin pour obtenir le moteur d'exécution et un modèle. Ensuite, le mode local uniquement est conçu pour fonctionner sans connexion. Controlled Cloud en nécessite évidemment une, et ne s'exécute que lorsque vous approuvez une requête précise.

Un premier petit groupe, choisi pour la diversité de son matériel et pour un travail réel dont nous pouvons apprendre : des personnes qui manipulent des documents confidentiels dans leur métier, et des personnes prêtes à nous dire quand quelque chose ne va pas. Nous contacterons directement les candidats ; il n'y a pas de position dans une file d'attente à consulter.

Nous l'utilisons pour sélectionner les testeurs et pour comprendre quel matériel prendre en charge. Nous ne demandons ni documents ni contenu confidentiel, et le formulaire ne doit jamais servir à en envoyer. L'avis de confidentialité du site indique la durée de conservation et comment demander la suppression.

Il y aura une édition gratuite qui fait tourner un modèle local sans frais par message, et des éditions payantes pour la recherche dans les documents, des modèles plus grands et l'usage professionnel. Les montants ne sont pas définitifs, et la page des tarifs le précise partout où elle en affiche un. La bêta privée est gratuite pour toutes les personnes sélectionnées.

Le produit est commercial et propriétaire. Il est conçu pour fonctionner avec plus d'un moteur d'inférence, y compris des moteurs open source utilisés sous leurs propres licences, et ces licences et attributions figurent dans les mentions de l'application. Nous ne présentons pas le travail d'autrui comme le nôtre.

Un développeur indépendant qui construit un produit commercial, pas une équipe financée par du capital-risque ni le projet annexe d'autre chose. La page À propos est franche sur la taille de l'activité, parce que cela fait partie de ce que vous évaluez.