Hardware
Was kann mein Computer ausführen?
Beantworten Sie sechs Fragen zu dem Rechner, den Sie bereits besitzen. Das Ergebnis zeigt, in welches Profil er fällt, welche Modellklasse dieses Profil unterstützt, wie die Nachweislage ist und was er nicht leisten wird.
Über die Kompatibilität entscheiden Betriebssystem, Architektur, Datenträger, Beschleunigung und Modellprofil gemeinsam, nicht die Speichergröße allein.
Wofür jede Rechnerklasse gedacht ist.
Wählen Sie ein Profil. Jeder Wert wird auf dieser Seite aus der Reserve des Betriebssystems berechnet, und nichts davon ist eine Geschwindigkeit: Eine Geschwindigkeit wird nur dort veröffentlicht, wo sie gemessen wurde.
Essential
Noch nicht gemessenEin kompatibles System mit 16 GB Speicher und ausreichend SSD-Speicherplatz.
- Speicher
- 16 GB
- Speicherart
- Unified Memory, Arbeitsspeicher
- Nutzbar nach Abzug des Betriebssystems
- Ein Rechner mit 16 GB behält 5 GB für das Betriebssystem, es bleiben etwa 11 GB
- Modellklasse
- Effiziente lokale Assistenten
- Aufgaben
- Lokaler Chat, ein effizientes Modellprofil, leichtes Programmieren und eine begrenzte Dokumentensammlung.
- Grenzen
- Modelle der Spitzenklasse laufen hier nicht, und wir werden nichts anderes behaupten. Sechzehn Gigabyte sind ein Einstieg, keine Garantie: Betriebssystem, Architektur, Datenträger und Beschleunigung fließen alle in die Entscheidung ein.
Personal
Noch nicht gemessen24 bis 48 GB Unified Memory oder Arbeitsspeicher, je nach Plattform.
- Speicher
- 24–48 GB
- Speicherart
- Unified Memory, Arbeitsspeicher
- Nutzbar nach Abzug des Betriebssystems
- Ein Rechner mit 32 GB behält 6 GB für das Betriebssystem, es bleiben etwa 26 GB
- Modellklasse
- Effiziente und mittelgroße offene Modelle
- Aufgaben
- Ein vollständiger privater Assistent, Dokumente mit Quellenangaben und leistungsfähigere Modellprofile.
- Grenzen
- Große Mixture-of-Experts-Profile bleiben auf dieser Stufe außer Reichweite.
Professional
Auf einem Rechner gemessen64 bis 128 GB Speicher oder eine Konfiguration mit dedizierter GPU samt ausreichend System-RAM und schnellem NVMe.
- Speicher
- 64–128 GB
- Speicherart
- Unified Memory, Arbeitsspeicher, GPU-Speicher
- Nutzbar nach Abzug des Betriebssystems
- Ein Rechner mit 128 GB behält 8 GB für das Betriebssystem, es bleiben etwa 120 GB
- Modellklasse
- Professionelle offene Modelle
- Aufgaben
- Größere Modelle, umfangreiche Dokumentensammlungen, die lokale API und professionelle Automatisierung.
- Grenzen
- Nachweise gibt es für einen Rechner dieser Klasse mit 130.7 GB Unified Memory. Ein Rechner mit weniger Speicher ist davon nicht abgedeckt, und die größten Profile brauchen den Rechner für sich allein.
Frontier Workstation
Noch nicht gemessen192 bis 512 GB Unified Memory oder eine gleichwertige Workstation mit viel Speicher.
- Speicher
- 192–512 GB
- Speicherart
- Unified Memory, Arbeitsspeicher
- Nutzbar nach Abzug des Betriebssystems
- Ein Rechner mit 512 GB behält 12 GB für das Betriebssystem, es bleiben etwa 500 GB
- Modellklasse
- Offene Modelle der Spitzenklasse
- Aufgaben
- Open-Weight-Modelle der Spitzenklasse und anspruchsvolle lokale Aufgaben.
- Grenzen
- Welche Modelle auf dieser Stufe verfügbar sind, entscheidet die Validierung, nicht der Speicher allein. Kein Rechner dieser Klasse wurde gemessen, daher wird für sie kein Modell beansprucht.
Private AI Rack
GeplantMehrere vertrauenswürdige Computer, verbunden in einem privaten Netzwerk.
- Speicher
- Mehrere Rechner
- Speicherart
- Verteilt auf private Knoten
- Nutzbar nach Abzug des Betriebssystems
- Pro Rechner. Jeder Knoten behält seinen eigenen Speicher.
- Modellklasse
- Sehr große Profile über mehrere Rechner
- Aufgaben
- Ausgelegt für verteilte Ausführung, Teamzugang und sehr große Modellprofile.
- Grenzen
- Die Ausführung über mehrere Knoten ist entworfen, aber nicht umgesetzt. Jeder Rechner behält seinen eigenen Speicher. Die Knoten würden ihre Ressourcen über ausdrücklich verteilte Ausführung bündeln; sie bilden keinen gemeinsamen Speicherpool.