Hardware
¿Qué puede ejecutar mi equipo?
Responda seis preguntas sobre el equipo que ya tiene. El resultado le indica en qué perfil encaja, qué clase de modelo admite ese perfil, en qué punto está la evidencia y qué no hará.
La compatibilidad la deciden a la vez el sistema operativo, la arquitectura, el almacenamiento, la aceleración y el perfil de modelo, no solo la capacidad de memoria.
Para qué sirve cada clase de equipo.
Elija un perfil. Cada cifra se calcula en esta página a partir de la reserva del sistema operativo, y nada de esto es una velocidad: una velocidad solo se publica donde se ha medido.
Essential
Aún sin medirUn sistema compatible con 16 GB de memoria y almacenamiento SSD suficiente.
- Memoria
- 16 GB
- Tipo de memoria
- Memoria unificada, Memoria del sistema
- Utilizable tras el sistema operativo
- Una máquina de 16 GB reserva 5 GB para el sistema operativo y deja unos 11 GB
- Clase de modelo
- Asistentes locales eficientes
- Cargas de trabajo
- Chat local, un perfil de modelo eficiente, programación ligera y una colección de documentos limitada.
- Limitaciones
- Los modelos de clase frontera no se ejecutan aquí, y no diremos lo contrario. Dieciséis gigabytes son un punto de entrada, no una garantía: el sistema operativo, la arquitectura, el almacenamiento y la aceleración intervienen en la decisión.
Personal
Aún sin medirDe 24 a 48 GB de memoria unificada o del sistema, según la plataforma.
- Memoria
- 24–48 GB
- Tipo de memoria
- Memoria unificada, Memoria del sistema
- Utilizable tras el sistema operativo
- Una máquina de 32 GB reserva 6 GB para el sistema operativo y deja unos 26 GB
- Clase de modelo
- Modelos abiertos eficientes y de tamaño medio
- Cargas de trabajo
- Un asistente privado completo, documentos con citas y perfiles de modelo con más capacidad.
- Limitaciones
- Los perfiles grandes de mezcla de expertos quedan fuera de alcance en este nivel.
Professional
Medido en una máquinaDe 64 a 128 GB de memoria, o una configuración con GPU dedicada acompañada de suficiente RAM del sistema y NVMe rápido.
- Memoria
- 64–128 GB
- Tipo de memoria
- Memoria unificada, Memoria del sistema, Memoria de GPU
- Utilizable tras el sistema operativo
- Una máquina de 128 GB reserva 8 GB para el sistema operativo y deja unos 120 GB
- Clase de modelo
- Modelos abiertos profesionales
- Cargas de trabajo
- Modelos más grandes, colecciones de documentos extensas, la API local y automatización profesional.
- Limitaciones
- Existe evidencia para una máquina de esta clase, con 130.7 GB de memoria unificada. Una máquina con menos memoria no queda cubierta por ella, y los perfiles más grandes necesitan la máquina en exclusiva.
Frontier Workstation
Aún sin medirDe 192 a 512 GB de memoria unificada, o una estación de trabajo equivalente con mucha memoria.
- Memoria
- 192–512 GB
- Tipo de memoria
- Memoria unificada, Memoria del sistema
- Utilizable tras el sistema operativo
- Una máquina de 512 GB reserva 12 GB para el sistema operativo y deja unos 500 GB
- Clase de modelo
- Modelos abiertos de clase frontera
- Cargas de trabajo
- Modelos de pesos abiertos de clase frontera y cargas de trabajo locales avanzadas.
- Limitaciones
- La disponibilidad de modelos en este nivel la decide la validación, no solo la memoria. No se ha medido ninguna máquina de esta clase, así que no se afirma ningún modelo para ella.
Private AI Rack
PrevistoVarios equipos de confianza conectados dentro de una red privada.
- Memoria
- Varias máquinas
- Tipo de memoria
- Repartida entre nodos privados
- Utilizable tras el sistema operativo
- Por máquina. Cada nodo conserva su propia memoria.
- Clase de modelo
- Perfiles muy grandes repartidos entre máquinas
- Cargas de trabajo
- Diseñado para ejecución distribuida, acceso de equipos de personas y perfiles de modelo muy grandes.
- Limitaciones
- La ejecución en varios nodos está diseñada y no implementada. Cada máquina conserva su propia memoria. Los nodos aportarían recursos agregados mediante ejecución distribuida explícita; no forman un único conjunto de memoria compartida.