Matériel
Que peut faire tourner mon ordinateur ?
Répondez à six questions sur la machine que vous possédez déjà. Le résultat vous indique dans quel profil elle se situe, quelle classe de modèle ce profil prend en charge, où en sont les preuves et ce qu'elle ne fera pas.
La compatibilité dépend à la fois du système d'exploitation, de l'architecture, du stockage, de l'accélération et du profil de modèle, et pas de la seule capacité mémoire.
À quoi sert chaque classe de machine.
Choisissez un profil. Chaque chiffre est calculé sur cette page à partir de la réserve du système d'exploitation, et rien ici n'est une vitesse : une vitesse n'est publiée que là où elle a été mesurée.
Essential
Pas encore mesuréUn système compatible avec 16 GB de mémoire et un stockage SSD suffisant.
- Mémoire
- 16 GB
- Type de mémoire
- Mémoire unifiée, Mémoire système
- Utilisable après le système d'exploitation
- Une machine de 16 GB garde 5 GB pour le système d'exploitation et laisse environ 11 GB
- Classe de modèle
- Assistants locaux efficaces
- Charges de travail
- Conversation locale, un profil de modèle efficace, de la programmation légère et une collection de documents limitée.
- Limites
- Les modèles de classe frontière ne tournent pas ici, et nous ne prétendrons pas le contraire. Seize gigaoctets sont un point d'entrée, pas une garantie : le système d'exploitation, l'architecture, le stockage et l'accélération entrent tous dans la décision.
Personal
Pas encore mesuréDe 24 à 48 GB de mémoire unifiée ou système, selon la plateforme.
- Mémoire
- 24–48 GB
- Type de mémoire
- Mémoire unifiée, Mémoire système
- Utilisable après le système d'exploitation
- Une machine de 32 GB garde 6 GB pour le système d'exploitation et laisse environ 26 GB
- Classe de modèle
- Modèles ouverts efficaces et de taille moyenne
- Charges de travail
- Un assistant privé complet, des documents avec citations et des profils de modèle plus capables.
- Limites
- Les grands profils à mélange d'experts restent hors de portée à ce niveau.
Professional
Mesuré sur une machineDe 64 à 128 GB de mémoire, ou une configuration avec GPU dédié accompagnée de suffisamment de RAM système et d'un NVMe rapide.
- Mémoire
- 64–128 GB
- Type de mémoire
- Mémoire unifiée, Mémoire système, Mémoire GPU
- Utilisable après le système d'exploitation
- Une machine de 128 GB garde 8 GB pour le système d'exploitation et laisse environ 120 GB
- Classe de modèle
- Modèles ouverts professionnels
- Charges de travail
- Des modèles plus grands, des collections de documents étendues, l'API locale et l'automatisation professionnelle.
- Limites
- Des preuves existent pour une machine de cette classe, dotée de 130.7 GB de mémoire unifiée. Une machine avec moins de mémoire n'est pas couverte par ces preuves, et les plus grands profils ont besoin de la machine pour eux seuls.
Frontier Workstation
Pas encore mesuréDe 192 à 512 GB de mémoire unifiée, ou une station de travail équivalente dotée de beaucoup de mémoire.
- Mémoire
- 192–512 GB
- Type de mémoire
- Mémoire unifiée, Mémoire système
- Utilisable après le système d'exploitation
- Une machine de 512 GB garde 12 GB pour le système d'exploitation et laisse environ 500 GB
- Classe de modèle
- Modèles ouverts de classe frontière
- Charges de travail
- Modèles à poids ouverts de classe frontière et charges de travail locales avancées.
- Limites
- À ce niveau, la disponibilité des modèles dépend de la validation, et pas de la seule mémoire. Aucune machine de cette classe n'a été mesurée, donc aucun modèle n'est revendiqué pour elle.
Private AI Rack
PrévuPlusieurs ordinateurs de confiance reliés au sein d'un réseau privé.
- Mémoire
- Plusieurs machines
- Type de mémoire
- Répartie entre nœuds privés
- Utilisable après le système d'exploitation
- Par machine. Chaque nœud garde sa propre mémoire.
- Classe de modèle
- Très grands profils répartis sur plusieurs machines
- Charges de travail
- Conçu pour l'exécution distribuée, l'accès en équipe et de très grands profils de modèle.
- Limites
- L'exécution sur plusieurs nœuds est conçue mais non implémentée. Chaque machine garde sa propre mémoire. Les nœuds fourniraient des ressources cumulées par une exécution distribuée explicite ; ils ne forment pas une réserve de mémoire partagée unique.