RTX PRO 6000 Blackwell Workstation Edition
NVIDIA
ExcellentFait tourner Qwen3.5 122B-A10B Q4_K_M entièrement en mémoire
Modèle · Alibaba Qwen
Qwen3.5 122B-A10B : VRAM et matériel nécessaires
En Q4_K_M avec un contexte de 8K, Qwen3.5 122B-A10B demande environ 76,3 Go : un GPU de 80 Go ou plus le fait tourner entièrement en VRAM.
- Paramètres125,1B
- Actifs10B
- Contexte max256K
- LicenceApache-2.0
Caractéristiques
- Organisation
- Alibaba Qwen
- Architecture
- qwen3_5_moe
- Sortie
- février 2026
- Couches
- 48
- Dimension cachée
- 3072
- Têtes d'attention
- 32
- Têtes KV
- 2
- Dimension par tête
- 256
- Vocabulaire
- 248 320
- Cache KV pour 1K tokens (f16)
- 0,169 Go
Spécification officielleDonnées mises à jour aujourd’huiSource: Hugging Face config.json + model card
Quantifications et mémoire
| Quantification | Taille du fichier | Mémoire nécessaire | Mémoire GPU minimale | Qualité |
|---|---|---|---|---|
| BF16 | 228 Go | ~246 Go | – | Référence (non quantifié) |
| Q8_0 | 121 Go | ~131 Go | – | Quasi sans perte |
| Q6_K | 94,1 Go | ~102 Go | – | Quasi sans perte |
| Q5_K_M | 85,2 Go | ~88,5 Go | 96 Go | Très bonne |
| Q4_K_MLa plus utilisée | 71,3 Go | ~76,3 Go | 80 Go | Bonne — le choix courant |
| IQ4_XS | Non disponible | ~69,6 Go | 80 Go | Bonne — le choix courant |
| Q3_K_M | 52,5 Go | ~62,5 Go | 80 Go | Perte perceptible |
| Q2_K | Non disponible | ~49,8 Go | 80 Go | Perte importante |
Tailles de fichier : non disponibles tant qu'elles ne sont pas importées du dépôt du modèle. Mémoire = poids (estimés d'après les bits par poids) + cache KV + surcoût runtime + marge de sécurité. (BF16 ≈ 16 bpw, Q8_0 ≈ 8,5 bpw, Q6_K ≈ 6,57 bpw, Q5_K_M ≈ 5,7 bpw, Q4_K_M ≈ 4,9 bpw, IQ4_XS ≈ 4,46 bpw, Q3_K_M ≈ 4 bpw, Q2_K ≈ 3,17 bpw)
Q4, Q5 ou Q8 : comment choisir sa quantification
Les GPU qui font tourner Qwen3.5 122B-A10B
| RTX 509032 Go · 64 Go RAM~76,2 Go · 5–10 tok/s estimation | Possible mais lent |
|---|---|
| RTX 409024 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 309024 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RX 7900 XTX24 Go · 64 Go RAM~76,3 Go · Pas de données | Incompatible |
| RTX 5060 Ti 16 GB16 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 5070 Ti16 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 508016 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 4060 Ti 16 GB16 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 4070 Ti SUPER16 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RX 9070 XT16 Go · 64 Go RAM~76,3 Go · Pas de données | Incompatible |
| RTX 3060 12 GB12 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 407012 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 507012 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
| RTX 40608 Go · 64 Go RAM~76,2 Go · Pas de données | Incompatible |
Les Mac qui font tourner Qwen3.5 122B-A10B
| M3 Ultra (80-core GPU) · 512 GoMac Studio~76 Go · 41–67 tok/s estimation | Excellent |
|---|---|
| M4 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~76 Go · 32–51 tok/s estimation | Excellent |
| M3 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~76 Go · 26–40 tok/s estimation | Excellent |
| M4 Pro (20-core GPU) · 64 GoMac mini, MacBook Pro 14~76 Go · Pas de données | Incompatible |
| M4 Max (32-core GPU) · 36 GoMacBook Pro 14, MacBook Pro 16~76 Go · Pas de données | Incompatible |
| M4 · 32 GoMacBook Air, MacBook Pro 14~76 Go · Pas de données | Incompatible |
| M5 · 32 GoMacBook Pro 14~76 Go · Pas de données | Incompatible |
| M3 · 24 GoMacBook Air, MacBook Pro 14~76 Go · Pas de données | Incompatible |
EstimationDonnées mises à jour il y a 40 joursSource: moteur Run LLM Locally
Les limites en clair
Qwen3.5 122B-A10B est un modèle à mélange d'experts : ses 125,1 Md de paramètres doivent tous être en mémoire, mais seuls 10 Md sont lus par token ; il génère donc bien plus vite qu'un modèle dense de même taille.
Le cache KV grandit avec le contexte : à 32K, il ajoute environ 0,9 Go aux poids.
Avec moins de 8 Go de VRAM, choisissez une quantification plus petite ou un modèle plus petit de la même famille.
Où acheter
Les prix et les liens suivent le marché choisi.
Radeon PRO W7900
AMD
ExcellentFait tourner Qwen3.5 122B-A10B Q4_K_M entièrement en mémoire
NVIDIA DGX Spark (GB10)
PC à mémoire unifiée
ExcellentFait tourner Qwen3.5 122B-A10B Q4_K_M entièrement en mémoire
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Combien de VRAM faut-il pour Qwen3.5 122B-A10B ?
Environ 76,3 Go en Q4_K_M avec un contexte de 8K, cache KV et surcoût compris. En Q8_0, il faut environ 131 Go. Un contexte plus long ajoute davantage : environ 0,9 Go de cache KV à 32K.
Qwen3.5 122B-A10B tourne-t-il sur Mac ?
Oui, sur un Mac dont le GPU peut utiliser au moins 76 Go, par exemple M4 Max (40-core GPU) 128 Go. Par défaut, macOS laisse le GPU utiliser environ deux tiers à trois quarts de la mémoire unifiée.