Radeon RX 7900 XTX
AMD
CompatibleFait tourner Qwen3 Coder 30B-A3B Instruct Q4_K_M entièrement en mémoire
Modèle · Alibaba Qwen
Qwen3 Coder 30B-A3B Instruct : VRAM et matériel nécessaires
En Q4_K_M avec un contexte de 8K, Qwen3 Coder 30B-A3B Instruct demande environ 19,9 Go : un GPU de 24 Go ou plus le fait tourner entièrement en VRAM.
- Paramètres30,5B
- Actifs3,3B
- Contexte max256K
- LicenceApache-2.0
Caractéristiques
- Organisation
- Alibaba Qwen
- Architecture
- qwen3_moe
- Sortie
- juillet 2025
- Couches
- 48
- Dimension cachée
- 2048
- Têtes d'attention
- 32
- Têtes KV
- 4
- Dimension par tête
- 128
- Vocabulaire
- 151 936
- Cache KV pour 1K tokens (f16)
- 0,094 Go
Spécification officielleDonnées mises à jour il y a 24 joursSource: Hugging Face config.json + model card
Quantifications et mémoire
| Quantification | Taille du fichier | Mémoire nécessaire | Mémoire GPU minimale | Qualité |
|---|---|---|---|---|
| BF16 | 56,9 Go | ~61,2 Go | 80 Go | Référence (non quantifié) |
| Q8_0 | 30,3 Go | ~33,3 Go | 48 Go | Quasi sans perte |
| Q6_K | 23,4 Go | ~26,1 Go | 32 Go | Quasi sans perte |
| Q5_K_M | 20,2 Go | ~22,8 Go | 24 Go | Très bonne |
| Q4_K_MLa plus utilisée | 17,3 Go | ~19,9 Go | 24 Go | Bonne — le choix courant |
| IQ4_XS | 15,3 Go | ~18,2 Go | 20 Go | Bonne — le choix courant |
| Q3_K_M | 13,7 Go | ~16,5 Go | 20 Go | Perte perceptible |
| Q2_K | 10,5 Go | ~13,4 Go | 16 Go | Perte importante |
Tailles de fichier : non disponibles tant qu'elles ne sont pas importées du dépôt du modèle. Mémoire = poids (estimés d'après les bits par poids) + cache KV + surcoût runtime + marge de sécurité. (BF16 ≈ 16 bpw, Q8_0 ≈ 8,5 bpw, Q6_K ≈ 6,57 bpw, Q5_K_M ≈ 5,7 bpw, Q4_K_M ≈ 4,9 bpw, IQ4_XS ≈ 4,46 bpw, Q3_K_M ≈ 4 bpw, Q2_K ≈ 3,17 bpw)
Q4, Q5 ou Q8 : comment choisir sa quantification
Les GPU qui font tourner Qwen3 Coder 30B-A3B Instruct
| RTX 509032 Go · 64 Go RAM~19,7 Go · 156–284 tok/s estimation | Excellent |
|---|---|
| RTX 409024 Go · 64 Go RAM~19,7 Go · 125–209 tok/s estimation | Excellent |
| RTX 309024 Go · 64 Go RAM~19,7 Go · 120–200 tok/s estimation | Excellent |
| RX 7900 XTX24 Go · 64 Go RAM~19,8 Go · 81–149 tok/s estimation | Compatible |
| RTX 5060 Ti 16 GB16 Go · 64 Go RAM~19,7 Go · 25–49 tok/s estimation | Offload CPU/GPU |
| RTX 5070 Ti16 Go · 64 Go RAM~19,7 Go · 28–56 tok/s estimation | Offload CPU/GPU |
| RTX 508016 Go · 64 Go RAM~19,7 Go · 28–57 tok/s estimation | Offload CPU/GPU |
| RTX 4060 Ti 16 GB16 Go · 64 Go RAM~19,7 Go · 23–43 tok/s estimation | Offload CPU/GPU |
| RTX 4070 Ti SUPER16 Go · 64 Go RAM~19,7 Go · 27–54 tok/s estimation | Offload CPU/GPU |
| RX 9070 XT16 Go · 64 Go RAM~19,8 Go · 23–48 tok/s estimation | Offload CPU/GPU |
| RTX 3060 12 GB12 Go · 64 Go RAM~19,7 Go · 16–31 tok/s estimation | Offload CPU/GPU |
| RTX 407012 Go · 64 Go RAM~19,7 Go · 17–32 tok/s estimation | Offload CPU/GPU |
| RTX 507012 Go · 64 Go RAM~19,7 Go · 17–33 tok/s estimation | Offload CPU/GPU |
| RTX 40608 Go · 64 Go RAM~19,7 Go · 12–23 tok/s estimation | Possible mais lent |
Les Mac qui font tourner Qwen3 Coder 30B-A3B Instruct
| M3 Ultra (80-core GPU) · 512 GoMac Studio~19,5 Go · 61–112 tok/s estimation | Excellent |
|---|---|
| M4 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~19,5 Go · 53–93 tok/s estimation | Excellent |
| M3 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~19,5 Go · 46–78 tok/s estimation | Excellent |
| M4 Pro (20-core GPU) · 64 GoMac mini, MacBook Pro 14~19,5 Go · 38–62 tok/s estimation | Excellent |
| M4 Max (32-core GPU) · 36 GoMacBook Pro 14, MacBook Pro 16~19,5 Go · 47–79 tok/s estimation | Excellent |
| M4 · 32 GoMacBook Air, MacBook Pro 14~19,5 Go · 22–33 tok/s estimation | Compatible |
| M5 · 32 GoMacBook Pro 14~19,5 Go · 26–40 tok/s estimation | Compatible |
| M3 · 24 GoMacBook Air, MacBook Pro 14~19,5 Go · Pas de données | Incompatible |
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally
Les limites en clair
Qwen3 Coder 30B-A3B Instruct est un modèle à mélange d'experts : ses 30,5 Md de paramètres doivent tous être en mémoire, mais seuls 3,3 Md sont lus par token ; il génère donc bien plus vite qu'un modèle dense de même taille.
Le cache KV grandit avec le contexte : à 32K, il ajoute environ 3 Go aux poids.
Avec moins de 8 Go de VRAM, choisissez une quantification plus petite ou un modèle plus petit de la même famille.
Où acheter
Les prix et les liens suivent le marché choisi.
AMD Ryzen AI Max+ 395
PC à mémoire unifiée
ExcellentFait tourner Qwen3 Coder 30B-A3B Instruct Q4_K_M entièrement en mémoire
GeForce RTX 2080 Ti
Palier de mémoire le plus bas
CompatibleFait tourner Qwen3 Coder 30B-A3B Instruct Q4_K_M entièrement en mémoire
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Combien de VRAM faut-il pour Qwen3 Coder 30B-A3B Instruct ?
Environ 19,9 Go en Q4_K_M avec un contexte de 8K, cache KV et surcoût compris. En Q8_0, il faut environ 33,3 Go. Un contexte plus long ajoute davantage : environ 3 Go de cache KV à 32K.
Qwen3 Coder 30B-A3B Instruct tourne-t-il sur Mac ?
Oui, sur un Mac dont le GPU peut utiliser au moins 19,5 Go, par exemple M4 32 Go. Par défaut, macOS laisse le GPU utiliser environ deux tiers à trois quarts de la mémoire unifiée.
À quelle vitesse tourne Qwen3 Coder 30B-A3B Instruct ?
Sur une RTX 4090, nous estimons 125–209 tok/s en Q4_K_M. C'est une estimation fondée sur la bande passante mémoire (confiance faible) tant que des benchmarks ne sont pas importés.