GeForce RTX 5090
NVIDIA
CompatibleFait tourner Mixtral 8x7B Instruct Q4_K_M entièrement en mémoire
Modèle · Mistral AI
Mixtral 8x7B Instruct : VRAM et matériel nécessaires
En Q4_K_M avec un contexte de 8K, Mixtral 8x7B Instruct demande environ 29,6 Go : un GPU de 32 Go ou plus le fait tourner entièrement en VRAM.
- Paramètres46,7B
- Actifs12,9B
- Contexte max32K
- LicenceApache-2.0
Caractéristiques
- Organisation
- Mistral AI
- Architecture
- mixtral
- Sortie
- décembre 2023
- Couches
- 32
- Dimension cachée
- 4096
- Têtes d'attention
- 32
- Têtes KV
- 8
- Dimension par tête
- 128
- Vocabulaire
- 32 000
- Cache KV pour 1K tokens (f16)
- 0,125 Go
Spécification officielleDonnées mises à jour il y a 24 joursSource: Hugging Face config.json + model card
Quantifications et mémoire
| Quantification | Taille du fichier | Mémoire nécessaire | Mémoire GPU minimale | Qualité |
|---|---|---|---|---|
| BF16 | Non disponible | ~93 Go | 96 Go | Référence (non quantifié) |
| Q8_0 | 46,2 Go | ~50,2 Go | 80 Go | Quasi sans perte |
| Q6_K | 35,7 Go | ~39,2 Go | 48 Go | Quasi sans perte |
| Q5_K_M | 30 Go | ~34,2 Go | 48 Go | Très bonne |
| Q4_K_MLa plus utilisée | 24,6 Go | ~29,6 Go | 32 Go | Bonne — le choix courant |
| IQ4_XS | Non disponible | ~27,1 Go | 32 Go | Bonne — le choix courant |
| Q3_K_M | 19 Go | ~24,5 Go | 24 Go | Perte perceptible |
| Q2_K | 14,6 Go | ~19,7 Go | 20 Go | Perte importante |
Tailles de fichier : non disponibles tant qu'elles ne sont pas importées du dépôt du modèle. Mémoire = poids (estimés d'après les bits par poids) + cache KV + surcoût runtime + marge de sécurité. (BF16 ≈ 16 bpw, Q8_0 ≈ 8,5 bpw, Q6_K ≈ 6,57 bpw, Q5_K_M ≈ 5,7 bpw, Q4_K_M ≈ 4,9 bpw, IQ4_XS ≈ 4,46 bpw, Q3_K_M ≈ 4 bpw, Q2_K ≈ 3,17 bpw)
Q4, Q5 ou Q8 : comment choisir sa quantification
Les GPU qui font tourner Mixtral 8x7B Instruct
| RTX 509032 Go · 64 Go RAM~27,5 Go · 103–154 tok/s estimation | Compatible |
|---|---|
| RTX 409024 Go · 64 Go RAM~27,5 Go · 13–25 tok/s estimation | Offload CPU/GPU |
| RTX 309024 Go · 64 Go RAM~27,5 Go · 13–24 tok/s estimation | Offload CPU/GPU |
| RX 7900 XTX24 Go · 64 Go RAM~27,6 Go · 12–23 tok/s estimation | Offload CPU/GPU |
| RTX 5060 Ti 16 GB16 Go · 64 Go RAM~27,5 Go · 5–10 tok/s estimation | Offload CPU/GPU |
| RTX 5070 Ti16 Go · 64 Go RAM~27,5 Go · 5,5–11 tok/s estimation | Offload CPU/GPU |
| RTX 508016 Go · 64 Go RAM~27,5 Go · 5,5–11 tok/s estimation | Offload CPU/GPU |
| RTX 4060 Ti 16 GB16 Go · 64 Go RAM~27,5 Go · 5–9 tok/s estimation | Offload CPU/GPU |
| RTX 4070 Ti SUPER16 Go · 64 Go RAM~27,5 Go · 5,5–10 tok/s estimation | Offload CPU/GPU |
| RX 9070 XT16 Go · 64 Go RAM~27,6 Go · 5–10 tok/s estimation | Offload CPU/GPU |
| RTX 3060 12 GB12 Go · 64 Go RAM~27,5 Go · 4–7,5 tok/s estimation | Possible mais lent |
| RTX 407012 Go · 64 Go RAM~27,5 Go · 4–8 tok/s estimation | Possible mais lent |
| RTX 507012 Go · 64 Go RAM~27,5 Go · 4–8 tok/s estimation | Possible mais lent |
| RTX 40608 Go · 64 Go RAM~27,5 Go · 3,5–6,5 tok/s estimation | Possible mais lent |
Les Mac qui font tourner Mixtral 8x7B Instruct
| M3 Ultra (80-core GPU) · 512 GoMac Studio~27,3 Go · 42–65 tok/s estimation | Excellent |
|---|---|
| M4 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~27,3 Go · 31–47 tok/s estimation | Excellent |
| M3 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~27,3 Go · 24–36 tok/s estimation | Excellent |
| M4 Pro (20-core GPU) · 64 GoMac mini, MacBook Pro 14~27,3 Go · 18–26 tok/s estimation | Excellent |
| M4 Max (32-core GPU) · 36 GoMacBook Pro 14, MacBook Pro 16~27,3 Go · Pas de données | Compatible avec limites |
| M4 · 32 GoMacBook Air, MacBook Pro 14~27,3 Go · Pas de données | Incompatible |
| M5 · 32 GoMacBook Pro 14~27,3 Go · Pas de données | Incompatible |
| M3 · 24 GoMacBook Air, MacBook Pro 14~27,3 Go · Pas de données | Incompatible |
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally
Les limites en clair
Mixtral 8x7B Instruct est un modèle à mélange d'experts : ses 46,7 Md de paramètres doivent tous être en mémoire, mais seuls 12,9 Md sont lus par token ; il génère donc bien plus vite qu'un modèle dense de même taille.
Le cache KV grandit avec le contexte : à 32K, il ajoute environ 4 Go aux poids.
Avec moins de 8 Go de VRAM, choisissez une quantification plus petite ou un modèle plus petit de la même famille.
Où acheter
Les prix et les liens suivent le marché choisi.
Radeon PRO W7900
AMD
ExcellentFait tourner Mixtral 8x7B Instruct Q4_K_M entièrement en mémoire
MacBook Pro 14 M3 Max
Apple Silicon
ExcellentFait tourner Mixtral 8x7B Instruct Q4_K_M entièrement en mémoire
AMD Ryzen AI Max+ 395
PC à mémoire unifiée
ExcellentFait tourner Mixtral 8x7B Instruct Q4_K_M entièrement en mémoire
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Combien de VRAM faut-il pour Mixtral 8x7B Instruct ?
Environ 29,6 Go en Q4_K_M avec un contexte de 8K, cache KV et surcoût compris. En Q8_0, il faut environ 50,2 Go. Un contexte plus long ajoute davantage : environ 4 Go de cache KV à 32K.
Mixtral 8x7B Instruct tourne-t-il sur Mac ?
Oui, sur un Mac dont le GPU peut utiliser au moins 27,3 Go, par exemple M4 Max (32-core GPU) 36 Go. Par défaut, macOS laisse le GPU utiliser environ deux tiers à trois quarts de la mémoire unifiée.
À quelle vitesse tourne Mixtral 8x7B Instruct ?
Sur une RTX 4090, nous estimons 13–25 tok/s en Q4_K_M. C'est une estimation fondée sur la bande passante mémoire (confiance faible) tant que des benchmarks ne sont pas importés.