Lokaler Chat
Fragen, entwerfen und abwägen mit einem Modell, das auf Ihrem Rechner läuft. Die Unterhaltung entsteht lokal und wird nicht pro Token abgerechnet.
Anwendungen
Jede Anwendung unten läuft mit demselben Hardwareplan, demselben geprüften Modellprofil und derselben lokalen Grenze. Jede ist aufgeführt, weil die Produktdaten sie als funktionierend erfassen, mit ihrem Stand daneben.
Fragen, entwerfen und abwägen mit einem Modell, das auf Ihrem Rechner läuft. Die Unterhaltung entsteht lokal und wird nicht pro Token abgerechnet.
Ein OpenAI-kompatibler Endpunkt auf Loopback, authentifiziert mit einem generierten Schlüssel, für Ihre eigenen Skripte und für bestehende Clients.
Geben Sie Ordner Ihrer Wahl frei, fragen Sie in normaler Sprache und prüfen Sie jede Antwort an der zitierten Datei und Seite. Wenn die Ordner die Frage nicht abdecken, lehnt die Anwendung eine Antwort ab.
Der Chat nutzt das Modellprofil, das für Ihre Hardware empfohlen wird. Eingabe und Antwort bleiben bei lokaler Inferenz auf dem Rechner, und die Nutzung wird nicht pro Token abgerechnet. Alles, was die OpenAI-kompatible API spricht, kann ebenfalls als Chat-Oberfläche dienen.
Organisationen, die AI Stays Local auf eigenen Workstations einsetzen wollen, können individuell Enterprise Managed vereinbaren: Planung der Bereitstellung, Hardwarevalidierung für die vorgesehenen Rechner, Modellplanung auf Grundlage gemessener Nachweise und Support. Es ist eine individuelle kommerzielle Vereinbarung, kein Tarif mit Preisliste.