Mac Studio M3 Ultra
Apple Silicon
Compatible avec limitesFait tourner DeepSeek R1 (671B) Q4_K_M entièrement en mémoire
Modèle · DeepSeek
DeepSeek R1 (671B) : VRAM et matériel nécessaires
En Q4_K_M avec un contexte de 8K, DeepSeek R1 (671B) demande environ 403 Go : un GPU de – ou plus le fait tourner entièrement en VRAM.
- Paramètres671B
- Actifs37B
- Contexte max160K
- LicenceMIT
Caractéristiques
- Organisation
- DeepSeek
- Architecture
- deepseek_v3
- Sortie
- janvier 2025
- Couches
- 61
- Dimension cachée
- 7168
- Têtes d'attention
- 128
- Têtes KV
- MLA (rank 512)
- Dimension par tête
- 192
- Vocabulaire
- 129 280
- Cache KV pour 1K tokens (f16)
- 0,067 Go
Spécification officielleDonnées mises à jour il y a 24 joursSource: Hugging Face config.json + model card
Quantifications et mémoire
| Quantification | Taille du fichier | Mémoire nécessaire | Mémoire GPU minimale | Qualité |
|---|---|---|---|---|
| Q8_0 | 664 Go | ~699 Go | – | Quasi sans perte |
| Q6_K | 515 Go | ~540 Go | – | Quasi sans perte |
| Q5_K_M | 445 Go | ~469 Go | – | Très bonne |
| Q4_K_MLa plus utilisée | 381 Go | ~403 Go | – | Bonne — le choix courant |
| IQ4_XS | 335 Go | ~367 Go | – | Bonne — le choix courant |
| Q3_K_M | 287 Go | ~329 Go | – | Perte perceptible |
| Q2_K | 222 Go | ~261 Go | – | Perte importante |
Tailles de fichier : non disponibles tant qu'elles ne sont pas importées du dépôt du modèle. Mémoire = poids (estimés d'après les bits par poids) + cache KV + surcoût runtime + marge de sécurité. (Q8_0 ≈ 8,5 bpw, Q6_K ≈ 6,57 bpw, Q5_K_M ≈ 5,7 bpw, Q4_K_M ≈ 4,9 bpw, IQ4_XS ≈ 4,46 bpw, Q3_K_M ≈ 4 bpw, Q2_K ≈ 3,17 bpw)
Q4, Q5 ou Q8 : comment choisir sa quantification
Les GPU qui font tourner DeepSeek R1 (671B)
| RTX 509032 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
|---|---|
| RTX 409024 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 309024 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RX 7900 XTX24 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 5060 Ti 16 GB16 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 5070 Ti16 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 508016 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 4060 Ti 16 GB16 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 4070 Ti SUPER16 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RX 9070 XT16 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 3060 12 GB12 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 407012 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 507012 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
| RTX 40608 Go · 64 Go RAM~402 Go · Pas de données | Incompatible |
Les Mac qui font tourner DeepSeek R1 (671B)
| M3 Ultra (80-core GPU) · 512 GoMac Studio~401 Go · Pas de données | Compatible avec limites |
|---|---|
| M4 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~401 Go · Pas de données | Incompatible |
| M3 Max (40-core GPU) · 128 GoMacBook Pro 14, MacBook Pro 16~401 Go · Pas de données | Incompatible |
| M4 Pro (20-core GPU) · 64 GoMac mini, MacBook Pro 14~401 Go · Pas de données | Incompatible |
| M4 Max (32-core GPU) · 36 GoMacBook Pro 14, MacBook Pro 16~401 Go · Pas de données | Incompatible |
| M4 · 32 GoMacBook Air, MacBook Pro 14~401 Go · Pas de données | Incompatible |
| M5 · 32 GoMacBook Pro 14~401 Go · Pas de données | Incompatible |
| M3 · 24 GoMacBook Air, MacBook Pro 14~401 Go · Pas de données | Incompatible |
EstimationDonnées mises à jour il y a 24 joursSource: moteur Run LLM Locally
Les limites en clair
DeepSeek R1 (671B) est un modèle à mélange d'experts : ses 671 Md de paramètres doivent tous être en mémoire, mais seuls 37 Md sont lus par token ; il génère donc bien plus vite qu'un modèle dense de même taille.
Le cache KV grandit avec le contexte : à 32K, il ajoute environ 2,1 Go aux poids.
Avec moins de 8 Go de VRAM, choisissez une quantification plus petite ou un modèle plus petit de la même famille.
Où acheter
Les prix et les liens suivent le marché choisi.
Aucune offre importée pour ce marché : le lien ouvre une recherche sur la boutique.
Questions fréquentes
Combien de VRAM faut-il pour DeepSeek R1 (671B) ?
Environ 403 Go en Q4_K_M avec un contexte de 8K, cache KV et surcoût compris. En Q8_0, il faut environ 699 Go. Un contexte plus long ajoute davantage : environ 2,1 Go de cache KV à 32K.
DeepSeek R1 (671B) tourne-t-il sur Mac ?
Oui, sur un Mac dont le GPU peut utiliser au moins 401 Go, par exemple M3 Ultra (80-core GPU) 512 Go. Par défaut, macOS laisse le GPU utiliser environ deux tiers à trois quarts de la mémoire unifiée.